要約:
疫病、気候、戦争、核の脅威と比べても、2100 年以前に人類を滅ぼす可能性が最も高いのは AI であることをご存知ですか?この驚くべき結論は、ランセット誌の信頼できる報告書から得られています。ランセット誌は、10月11日に発表された「21世紀における世界的な健康上の脅威」委員会報告書の中で、気候変動、伝染病、環境汚染など17の脅威のうち、核紛争と人工知能の悪用が第1位であり、2100年以前に人類滅亡につながる可能性があると述べた。
このレポートは 35 人のトップ専門家によって執筆され、調査全体は世界 204 の国と地域を対象としています。この報告書はまた、これらの脅威が相互に影響し合い、増幅する可能性があることを思い出させました。
この報告書の最もぞっとする部分は、AI と核紛争がどちらも人類を滅ぼす最大の問題であるにもかかわらず、AI によって引き起こされる被害が核紛争の被害をはるかに上回っているということです。
もしアモウディが AI の終わりについてこれを言ったら、私はただ面白がって聞くかもしれません。何しろ、すでに同じような言葉が多すぎて耳がタコになりそうになっているのです。
しかし、今回はランセット誌が言ったので、本当に怖かったです。
ランセット誌は何と言っていますか?
ランセットのレポートは、ワシントン大学の健康指標評価研究所 (IHME) によって主導されました。彼らは、今後 75 年間に人間の健康に影響を与える可能性のある脅威を重大度の順に「脅威ピラミッド」に整理し、その上部に別のカテゴリを設けました。
2100 年以前に人類の絶滅につながる可能性のある脅威。
このカテゴリに該当するものは 2 つだけです。1 つは核紛争によって引き起こされる「核飢餓」、もう 1 つは人工知能の悪用です。
地球に衝突する小惑星や超火山の噴火でさえ、ピラミッドの頂点には達していない。なぜなら、委員会は今後 75 年間にそれらが発生する確率は「非常に低い」と考えているからである。
しかし、これは「AI が人類を確実に滅ぼす」という意味ではありません。
報告書の原文には、「これら 2 種類のリスクが発生する可能性は依然として非常に低い」と記載されていますが、いったん発生すると、その影響は人類全体のレベルに及びます。
このレポートには、「Disability Adjusted Life Years」の略である DALY と呼ばれる単位があります。簡単に言うと、病気、障害、または早期死亡によって人が失った健康な生活の合計年数です。
委員会はこれを使用して、各脅威が 2100 年までに最終的にどの程度の「健康な命の損失」を引き起こすかを測定しました。
AI の悪用により、2100 年までに約 104 億 DALY の損失が生じる可能性があり、これは肥満とほぼ同じ規模です。核紛争が発生すると、約 1 億 3,300 万人が死亡し、約 93 億 5,000 万 DALY が損失します。
ランセットは、AI は核兵器よりも危険であると信じています。委員会は、これが最も悲劇的な結果を誇示するのではなく、「実行可能な手段」を測定するために設計されたものであることをわざわざ強調した。
では、AI はどのようにして私たちを「絶滅」させるのでしょうか? 「ターミネーター」のスカイネットかな？それとも「流浪の地球」のMOSSでしょうか？
どちらでもない。ランセットは、AI が人類を滅ぼす唯一の道は生物兵器であると信じています。
AI を悪意を持って使用して、大量の死傷者を引き起こす可能性のある病原体や毒素を設計または改変する人もいます。
ランセットの主張は、AI が危険なことを行うための敷居を下げているというものです。
これまで、ウイルスを改変するには、一流の研究室、高価な機器、そして研究者が長年にわたって蓄積してきた「感覚」と暗黙知が必要でした。大きなモデルができることは、人々が文献を検索し、実験計画を設計し、申請資料を作成し、各ステップが行われる理由を説明するのを支援することです。
2026 年 9 月 10 日、Anthropic は脅威インテリジェンス レポートを発表し、2025 年 12 月から 2026 年 8 月の間に傍受した数種類の虐待を明らかにしました。その中には、ユーザーが「生物兵器の開発を支援する可能性がある」方法でクロードを使用したケースが 5 件ありました。
• 今年 5 月、誰かがクロードに、チクングニア熱ウイルスのどの変異によってウイルスがより効率的に広がり、免疫システムからより容易に逃れられるかを研究するための助成金申請書を書くのを手伝ってほしいと頼んだ。
• 一部の人々は、高病原性鳥インフルエンザ ウイルスを哺乳類宿主により適応させるための実験を計画するためにこれを使用します。
• 天然痘とサル痘が属するオルトポックスウイルス科の毒性を変える方法を研究するための提案書が作成されました。
• 誰かが毒の地図を作成するための医薬品開発プロジェクトに取り組んでいました。
• 別の研究者は、細菌毒素や主要な病気を脅かすウイルスのタンパク質などの一連の毒素のコンピューター再設計を支援するためにクロードを使用し、進捗報告書を作成する際にこれらの毒素を指すために意図的に曖昧な用語を使用しました。
したがって、AI の悪用は間違いなく人類全体に多大な害をもたらすでしょう。
AI 終末論は 2 つの陣営に分かれています
実際、ランセットのレポートが発表される前には、AI 終末論が毎月登場していました。たとえば、9月にはAIが終末をもたらすかどうかについて各界が議論していた。
9 月 8 日、元人類学研究者のジェイコブ コクソン氏は辞任を発表し、OpenAI と人類学はともに「人命に賭けている」と公言し、AI は「この 10 年が終わる前に私たち全員を殺す可能性がある」と述べました。この投稿は短期間で 1 億回以上の閲覧を獲得しました。
翌日、Anthropic 社のアライメント科学責任者である Evan Hubinger 氏は次のように書いています。「AI がすべての人を殺す可能性があると私たちは真剣に信じています。個人的には、その確率は今後 10 年以内に 10% 以上であると考えています。」
AI の名付け親であるヒントン氏は後に、10% という数字は「法外ではない」と述べました。
3日後、アモウディ氏はより具体的な声明を発表した。同氏は、6～12か月以内にエージェントのグループがインターネット全体を乗っ取り、数千億ドルの損失を引き起こす可能性があると考えている。
不倶戴天の敵であるウルトラマンとマスクは、同じ戦線に立ち、「AI 開発のペースを遅らせる」ことを支持しています。
プラス側の火力は猛烈ですが、マイナス側の強さも弱くはありません。
黄仁勲氏はインタビューの中で、2030 年までに AI が世界を破滅させる確率は 0% であると述べました。エヴァン氏が述べた「AIが全員を殺す確率10％」には科学的根拠がなく、「無責任な」直感だと彼は考えている。
「安全に制御できないAIは解放すべきではない。」黄仁勲氏は語った。
AI Now Institute の主任科学者である Heidy Khlaaf 氏は、10% であろうと 20% であろうと、「反証も検証も不可能であり、本質的に非科学的である」と考えています。
認知科学者のゲイリー・マーカス氏は、「エージェントがインターネットを乗っ取る」という考えは「ばかげている」と述べた。
彼の理由は、インターネットの基盤となるインフラストラクチャのほとんどが Cloudflare、Google、Amazon AWS などの大企業の手に渡っているためです。政府軍の介入がなければ、長期間にわたってそれらが侵害されたり、統制されたりすることは考えにくい。
彼はまた、Anthropic の最も強力な Mythos モデルは、単独では「小規模で保護が弱い」システムにしか侵入できないとする、英国 AI セキュリティ研究所の評価報告書を引用しました。相手がネットワークのセキュリティ保護を強化している限り、Mythos は無力です。
一緒に見てみると、この議論の非常に興味深い側面がわかります。
肯定側は「結果」について話し、否定側は「証拠」について話します。
一方で、あなたは、確率がゼロでない限り、その結果は耐え難いものであると強調しています。その一方で、あなたはこの確率をどのように計算したのかさえ説明できないと強調していますが、それではなぜ全世界を不安にさせる必要があるのでしょうか？
さらに、アモデイとアルトマンはペースを落とすことを主張したが、メディアは彼らが後続の競合他社の参入を防ぐために安全の名の下に自ら堀を築いていると非難した。
学術界は鄭方氏をより支持しています。
たとえば、「AI はどのように人間を絶滅させることができるのか?」という論文が挙げられます。 「文明リスクの失敗モード分析」(arXiv:2610.08878) では、
壊滅的な AI リスクでは、AI が意識的であること、敵対的であること、または明確な危害を加える意図を持っている必要はないことが述べられています。
リスクは、自律的な不正確さ、人間による悪意のある使用、組織の失敗、競合による導入など、いくつかの絡み合った経路を通じて発生する可能性があります。著者はまた、この論文は「非運用的」であり、原因を分析するだけであり、悪を行う方法を提供していないと具体的に述べました。
しかし、これまでのところ、この議論に実際に「勝った」人は誰もいません。
コメント