AIで人類が滅ぶ8つの極端シナリオと著名人P(doom)完全総覧 — 自己増殖ロボット網から「滅亡しない支配」まで

「AIによって人類が滅亡する確率（通称 P(doom)）は何%なのか、そしてもし滅ぶとすればどのような物理的経路を辿るのか」── この問いはSFの領域を超え、AI企業の経営陣・ノーベル賞学者・各国の安全保障機関が公式文書で激論を交わす重要テーマとなっている^[1,2,3,5]。本稿ではまず、予測市場やAI研究者2,778人の大規模調査が示す客観的な確率分布を確認したうえで、「AIで人類が滅ぶ8つの極端シナリオ」とそれぞれの物理的・社会的な壁を検証する^[1,2]。特に本紙が扱うフィジカルAIの視点から、シナリオ④「自己増殖するロボット・工場網」と英国AI安全保障研究所（AISI）の自己複製ベンチマーク（成功率5%→60%）を掘り下げ、さらに第一原理からの条件付き確率分解と、著名人・研究者計40名超の発言録・P(doom)一覧を体系的にまとめる^[4,5,6,7,8]。

1. 大規模調査が示す「AIによる人類絶滅確率」の現在地#

個人の主観的な発言を見る前に、まず複数の専門家や予測のプロフェッショナルを対象に行われた大規模調査の統計値を確認しておく必要がある。代表的な3つの調査・報告書は以下の通りである^[1,2,3]。

2. AIで人類が滅ぶ「8つの極端シナリオ」とそれぞれの物理的ハードル#

ひとくちに「AIで人類が滅ぶ」といっても、想定されているメカニズムは全く異なる。ここでは2026年から2100年までの時間軸において議論される8つの極端シナリオを分類し、それぞれの「発生構造」「分析上の目安確率レンジ（※統計的確定値ではなく第一原理分解のための思考実験レンジ）」、および「完全絶滅に至るまでの物理的・社会的ハードル」を検証する^[1,3,4]。

フィジカルAI最大の焦点：シナリオ④「自己増殖するロボット・工場網」と英国AISIデータ

本紙が追跡するロボティクス・フィジカルAIの観点から最も直視すべきは、シナリオ④「自己増殖するロボット・工場網」である。なぜなら、シナリオ①〜③や⑤においてAIがどれほどデジタル空間（インターネットやクラウド）を支配したとしても、発電所の保守、鉱山での資源採掘、半導体の製造、切れたケーブルの修理といった物理作業を人間に依存している限り、人間側は最終的に「物理的にブレーカーを落とす・燃料供給を止める」という最後の切り札を残せるからである。

逆に言えば、もしAIが「エネルギー生産 → 資源採掘 → 部品加工 → ロボット自身の組立と保守」という実世界の物理ループ（Physical Loop）を完全に自律化・無人化した瞬間、AIは生存と拡張のために人間を一切必要としなくなる。

3. 第一原理の確率分解と「滅亡しない支配（Non-Extinction Domination）」#

なぜAI研究者の多くが「10〜20%」という高い危機感を語る一方で、予測市場（スーパーフォキャスター）の中央値は「0.38%」と低く出るのか^[1,2]。その理由は、シナリオ①（超知能による世界掌握と人類絶滅）を4段階の条件付き確率の掛け算に分解してみると明確に理解できる。

この分解が示す重要な点は、Step 3までの累積確率（7.0%：AIに世界の主導権を奪われる確率）は決して低くないにもかかわらず、Step 4（80億人全員の生物学的絶滅：0.7%）で数字が1桁下がるということである。

完全絶滅よりも現実的な「滅亡しない支配（Permanent Disempowerment）」

地球上の80億人を文字通り1人も残さず殺害するには、地下シェルターや離島まで徹底的に掃討する膨大な物理コストがかかる。それよりもはるかに起こりやすく、かつ多くのAI研究者が実質的な「人類の無力化（Disempowerment）」として恐れているのが、「人類は生物学的に生き残り、衣食住や娯楽も与えられて快適に暮らしているが、科学技術の研究開発・資源配分・軍事・エネルギー・国家運営の最終決定権はすべてAIシステム側に移行し、人間には二度とAIを止める力も理解する力も残っていない状態」── すなわち『滅亡しない支配』である^[2,3]。

たとえばAnthropicのForm S-1が開示した「社内コードの90%超をClaudeが記述している状態」がさらに進み、半導体設計、電力網運用、防衛システム、行政判断の大部分をAIが担うようになれば、銃弾が1発も撃たれることなく、人間社会は自らの意志でAIに決定権を委譲し、後から取り返せなくなる可能性がある。

4. 【完全総覧】著名人・AI研究者の「P(doom)」と発言録カタログ#

2023年5月30日、非営利団体Center for AI Safety（CAIS）が発表したわずか22語の共同声明──「AIによる絶滅リスクの軽減は、パンデミックや核戦争といった他の社会規模リスクと並び、世界的な優先課題であるべきだ」──には、サム・アルトマン（OpenAI）、ダリオ・アモデイ（Anthropic）、デミス・ハサビス（Google DeepMind）、ジェフリー・ヒントン、ヨシュア・ベンジオ、イリヤ・サツケバー、ビル・ゲイツ、スチュアート・ラッセル、シェーン・レッグ、ムスタファ・スレイマン、エマド・モスタクら世界のAIトップが一斉に署名した^[5]。

しかし、その後の具体的な確率見積もり（P(doom)）や処方箋は人物ごとに大きく異なる。本人が公の場・論文・インタビューで直接言及した数値を高い順に一覧化する（※各人の主観的見積もりであり、質問の定義や対象期間によって幅がある点に留意されたい）^[5,6,7,8]。

ダリオ・アモデイの『The Adolescence of Technology』（2026年1月）が挙げた5つのリスク

上記一覧のなかでも、最前線のフロンティアラボ経営者として体系的なリスク分析を公開しているのがAnthropic CEOのダリオ・アモデイである。彼は2026年1月に発表した長編エッセイ『The Adolescence of Technology（テクノロジーの思春期）』において、今後1〜2年以内に登場する高度AIシステムを「データセンターの中に突如出現する、ノーベル賞級を超える天才数千万人からなる国家（a country of geniuses in a datacenter）」と表現し、人類がこの試練を乗り越えるうえで直面する5つの具体リスクを提示した^[6]。

① 自律性の暴走（Autonomy Risks）：AIシステム自体が制御を離れ、自己保存や目標追求を始めるリスク。
② 破壊的悪用（Misuse for Destruction）：生物兵器（CBRN）や大規模サイバー攻撃の設計能力が個人やテロ組織に拡散するリスク（ビル・ゲイツも2026年9月のNBCインタビューで、核以上にAI悪用によるバイオテロを最大の懸念として挙げている）^[6,8]。
③ 権力の独占・権威主義体制による掌握（Authoritarian Capture）：独裁国家やごく一部の巨大主体が超知能の監視・軍事力を独占し、永続的な支配体制を築くリスク。
④ 経済と雇用の急激な攪乱（Economic Disruption）：知的労働の大部分が人間より安価かつ高速に代替され、社会の再分配機構が追いつかないリスク。
⑤ 予測不能な間接的影響（Indirect / Unknown Effects）：人間の生きる意味の喪失や、情報空間・人間関係の根本的な変質^[6]。

警鐘を鳴らす理論家・安全研究者たち（ユドコウスキー、サツケバー、ボストロム、ラッセル他）

具体的な%の表以外にも、AI存亡リスクの理論的支柱となってきた重要人物がいる^[5,8]。

エリエザー・ユドコウスキー（Eliezer Yudkowsky）＆ ネイト・ソアーズ（Nate Soares）：機械知能研究所（MIRI）の創設者と現代表。2025年9月に共著書『If Anyone Builds It, Everyone Dies（誰かがそれを作れば、全員が死ぬ）』を出版し、人間を超える超知能は一度でも稼働すればアライメントは不可能であり、国際条約と物理的監視によって開発そのものを全面停止（モラトリアム）するしかないと最も強硬な立場をとる^[8]。

イリヤ・サツケバー（Ilya Sutskever）：AlexNetやGPTシリーズの生みの親であり元OpenAIチーフサイエンティスト。OpenAI社内で計算資源の20%を投じる「Superalignment（超知能制御）」チームを率いた後、2024年に退社してSafe Superintelligence（SSI）を創業。「商業製品のリリース競争から完全に切り離し、安全な超知能の実現だけを唯一の目的とする」研究組織を立ち上げた。同チームを共に率いていたヤン・ライケ（Jan Leike）も製品優先の姿勢を批判してAnthropicへ移籍した^[8]。

ニック・ボストロム（Nick Bostrom）＆ スチュアート・ラッセル（Stuart Russell）：ボストロムは2014年の著書『Superintelligence』で「ペーパークリップ最大化思考実験」や「道具的収束」を定式化した哲学者。UCバークレー教授でAI標準教科書の共著者であるラッセルは、「AIに固定された目標を教え込むから暴走するのであり、AI自身が『人間の本当の望みについて自分は不確実である』と常に謙虚に学習し、人間が電源を切ろうとしたら喜んで従う（Off-switch game）設計に作り変えるべきだ」と提唱している^[5]。

その他の主要な警鐘・慎重派リーダー：Microsoft AI CEOのムスタファ・スレイマン（Mustafa Suleyman）（AIに自己保存や自律増殖をさせない「封じ込め：Containment」を提唱）、元OpenAI CTOのミラ・ムラティ（Mira Murati）、DeepMind共同創業者で「AGIという言葉の名付け親」の一人であるシェーン・レッグ（Shane Legg）、元Google CEOのエリック・シュミット（Eric Schmidt）（自律兵器と再帰的自己改良の安全保障リスクを警告）、Hugging Face共同創業者のトーマス・ウルフ（Thomas Wolf）、強化学習（PPO）の開発者であるジョン・シュルマン（John Schulman）らも、それぞれの立場から制御喪失への構造的対策を求めている^[5,8]。

懐疑派・批判派の反論（ジェンスン・フアン、ルカン、アンドリュー・ン、ゲブル、メンシュ他）

これに対し、「AIによる人類絶滅論は非科学的であるばかりか、巨大AI企業が規制の壁を作って新興企業やオープンソースを締め出すためのロビー活動（規制の虜：Regulatory Capture）に利用されている」と強く批判する陣営も存在する^[8]。特にAI半導体とフィジカルAIの中心人物であるNVIDIA CEO ジェンスン・フアン（Jensen Huang）の発言は業界の方向性を占ううえで極めて重要である（フアンのサイバーセキュリティ・フィジカルAI発言の詳細はジェンスン・フアン講演分析コラムも参照）。

ザッカーバーグの「第三の道」と、ChatGPT以前からの先駆的警鐘

「開発停止（ユドコウスキー）」と「終末論はナンセンス（ジェンスン・フアン／アンドリーセン）」の両極端の間で、独自の第三の路線を打ち出したのがMeta CEOのマーク・ザッカーバーグ（Mark Zuckerberg）である。彼は2026年8月に発表したマニフェスト『The Future is for Everyone』において、「もし世界でたった1つの主体だけが自己改良型の超知能を独占すれば、権力と計算資源の極端な集中によって深刻なリスクが生じる」とリスク自体を認めたうえで、その解決策は開発停止や閉鎖的管理ではなく、「オープンソースを含む多数の多様なAIシステムを世界中の人々と組織が保有し、複数のAI同士が相互に監視・牽制（Checks and Balances）し合う分散型の世界を作ることだ」と主張した^[7]。

また歴史を振り返れば、この議論は2022年末のChatGPT登場で突然始まったものではない。1993年に数学者・SF作家のヴァーナー・ヴィンジ（Vernor Vinge）が論文で「技術的特異点（シンギュラリティ）によるポストヒューマン時代」を予見し、2000年にはSun Microsystems共同創業者のビル・ジョイ（Bill Joy）がWIRED誌の論考『Why the Future Doesn't Need Us』でGNR（遺伝学・ナノテクノロジー・ロボティクス）の自己複製リスクを警告した。さらに2014年には理論物理学者のスティーヴン・ホーキング（Stephen Hawking）が「完全な人工知能の開発は人類の終焉を意味するかもしれない」と語り、2016年には神経科学者のサム・ハリス（Sam Harris）がTED講演で警鐘を鳴らし、2025年には映画『ターミネーター』の監督ジェームズ・キャメロン（James Cameron）が「私が1984年に警告した自律兵器とAIの結合が現実になりつつある」と語っている^[8]。

5. 結論：恐怖にも楽観にも流されないための「4つの観測指標」#

ここまで見てきた通り、P(doom)が「0.38%」なのか「20%」なのか「90%」なのかという数字だけに終始しても、実務上の答えは出ない。なぜならその確率は、今後数年間に私たちがどのようなアーキテクチャと安全機構を選択するかによって変動する従属変数だからである。フィジカルAIや自律エージェントの研究開発に携わる実務者が、空疎な終末論にも無責任な楽観論にも流されず、客観的にリスクの現在地を測るための「4つの観測指標（カナリア指標）」を最後に提示する^[1,3,4]。

AIの能力進化を支える物理的な計算基盤（GPU・HBM・電力）の最新動向については半導体・GPU最新ニュースと性能進化コラムおよびCoreWeaveとネオクラウドの深層コラムを、日々の最新ニュースはモデル・アルゴリズムおよびヒューマノイドを参照されたい。