高度な知性を持つAI(人工知能)を怖いと感じますか？ 神経科学者であり思想家であるサム・ハリスは、単に理論的な可能性としてでなく、実際に怖れるべきだと警告します。人間を超える知力を持つAIがやがて作られることになるが、人間がアリを扱うように人間を扱うAIを作ることの問題に、我々はきちんと向き合っていないと、彼は指摘します。

人間より優れた人工知能を作って制御を失わずにいることは可能か？

Humanity stands on the brink of creating machines that may far surpass human intelligence. Even if superintelligent AI is designed without malice, a slight mismatch between its goals and ours could make us as vulnerable as ants underfoot. Electronic circuits already process information about a million times faster than human brains, setting the stage for a rapid intelligence explosion. Many fail to take this threat seriously, distracted by the novelty and promise of such powerful technology.

Superintelligent AI Could Make Humanity Obsolete

*Superintelligence* by Nick Bostrom

TED Radio Hour

brain

history

future

humanity

innovation

invention

machine learning

neuroscience

potential

robots

science

technology

society

decision-making

TED Stage Talk

サム・ハリス: 人間より優れた人工知能を作って制御を失わずにいることは可能か？