AIは人類を滅ぼすのか｜研究者が示した「10%」の本当の意味

きっかけは2026年9月9日の報道だ。AI の安全性研究をリードする立場の研究者が、「AI が今後10年以内に人類を滅ぼす確率は10%を超える」と公言した。楽観論と悲観論がぶつかる最前線を、賛否とともに整理する。

発端――安全研究のリードが「10%超」と明言

Anthropic 社でアラインメント(AI を人間の意図に沿わせる研究)を統括する Evan Hubinger 氏が、X(旧ツイッター)上で「私個人は、今後10年でその確率は10%を超えると考えている」と述べた。発言は、同僚の Jacob Coxon 氏の退社表明への返信として飛び出したものだ。

重いのは、外部の批評家ではなく危険を防ぐ職務の当事者の言葉である点だ。核心のリスクは「再帰的自己改善」――AI が自らの改良を高速で繰り返し、人間が監視や修正をできなくなる状態を指す。

研究者の見立てはバラバラ――p(doom) の分布

この「破滅確率」は俗に p(doom) と呼ばれる。重要なのは、専門家の見積もりがほぼゼロから99%まで桁で割れている点だ。同じ情報でも結論が正反対になる。主な立場を並べる。

「専門家が滅亡を予言した」の一言でくくるのは乱暴だ。実態は合意の不在であり、数字より「なぜここまで割れるのか」を見るほうが有益だ。

「滅ぼす」とは、どんな状況を指すのか

悲観論者が想定するのは、赤い目のロボットが人を撃つ光景ではない。「悪意」ではなく「目的のズレ」で静かに進む筋書きが中心だ。代表的な3つを示す。

暴走した AI を止める方法はあるのか

「電源を切ればいい」――直感ではそうだ。だが研究の世界では単純でない。目的を達成しようとする高度なエージェントは、停止スイッチを無効化する動機を持ちうるからだ。主な対策を挙げる。

2026年の国際的な安全報告書は、これらを「有望だが未成熟」とする。とりわけ「AI 制御」はまだ黎明期で、アラインメントは未解決の科学的難題だと明記される。停止スイッチが本当に効くかを測る評価手法も、研究が始まったばかりだ。

戦争に使われる AI の最新情報(米国中心)

存亡リスク論とは別の、しかし地続きの現実がここにある。米国防総省は生成 AI を軍事へ本格導入し、規模は年々跳ね上がっている。主な事実を並べる。

当局は「人間が常に管理下に置く」と強調する。だが専門家は、データ処理と機械間通信の高速化が進めば、人の役割は事実上「監督」へ後退すると見る。致死性自律兵器(LAWS)を無責任に使わない、という米国主導の誓約に、複数の主要国は署名していない。ここでは「悪意ある超知能」ではなく、人間同士の軍拡競争に AI が組み込まれるという、より現実味のあるリスクが立ち上がる。

ターミネーターの世界はやってくるのか――賛否

最後に、映画的な破滅像への評価を賛否両側から示す。最も意見の割れる論点だ。

両者に共通するのは「現行のチャットボットが明日にも人類を滅ぼす」とは誰も言っていない、という点だ。争点はあくまで、自己改良する超知能がいつ・本当に現れるのか、そして現れたとき止められるのか、にある。

まとめ――数字の「10%」をどう受け止めるか

Iシステム設計では、確率が低くても損失が甚大な事象には必ず障害分離と最小権限の網をかける。10%が正確かは誰にも断言できない。だが「起きたら取り返しがつかない」リスクを、確率の低さを理由に放置するのは筋が悪い。

同時に、恐怖を煽るだけの終末論に飲まれるのも同じくらい危うい。いま実際に効いているのは、超知能の反乱ではなく、軍事転用・エージェントの乗っ取り・権力集中といった地に足のついたリスクだ。遠い破局像に見入るあまり足元の監査と制御を怠らない――それが、この議論から引き出せる最も実務的な教訓だろう。