現在、商用のAIやオープンソース型のAIが爆発的に普及していますが、数年以内に不気味なほどの超知能を有するAIが登場する可能性があるため、第一線の研究者や専門家は人類の無力化や絶滅を恐れています。物理学者マックス・テグマークは、そうならないようにAIをどう制御し、私たちのために働くようにするか、の楽観的なビジョンを語ります。

AIを制御する方法

Artificial intelligence has advanced even quicker than many experts predicted, with systems like ChatGPT-4 signaling that artificial general intelligence could arrive within just a few years. For the first time, major industry leaders and government officials are openly warning about extinction-level risks from AI. But runaway AI is not inevitable. By designing provably safe systems—using techniques like formal verification—we can harness AI's power without sacrificing human control.

Superintelligent AI Is Coming Faster Than We Can Control

technology

computers

machine learning

science

future

social change

TED Stage Talk

マックス・テグマーク: AIを制御する方法