ビジネス、政治、その他の分野の世界の主要人物100人以上が、人工知能、気候変動、パンデミック、核戦争など、現在および将来の存続の脅威に対処するよう世界のリーダーに求める公開書簡に署名した。木曜日に公開された書簡は、元南アフリカ大統領ネルソン・マンデラが設立したNGO「ジ・エルダーズ」と、生命に利益をもたらし大規模なリスクを回避するために革新的なテクノロジーを導くことを目的とした非営利団体「フューチャー・オブ・ライフ・インスティテュート」からのものだ。
この書簡の署名者には、億万長者のヴァージン・グループ創設者リチャード・ブランソン氏、元国連事務総長潘基文氏、チャールズ・オッペンハイマー氏（ロバート・オッペンハイマー氏の孫）などが含まれる。この書簡には元大統領や首相、活動家、CEO、創業者、教授らも署名した。
「私たちの世界は重大な危険にさらされています」と手紙は始まる。 「私たちは全人類を危険にさらす一連の脅威に直面している。私たちの指導者たちは必要な知恵と緊急性を持って対応していない。」
書簡では、気候変動、パンデミック、核兵器を使用した戦争など、現在の脅威の例を挙げている。この書簡では、特に管理されていない AI に関連する新たな脅威の範囲がまだわかっていないため、より悪いシナリオが発生する可能性があると指摘しています。
「長期的にリーダーシップを発揮するということは、困難な問題を管理するだけでなく解決するというコミットメントを示すこと、科学的証拠と理由に基づいて意思決定を下す知恵を示すこと、そして影響を受けるすべての人々の声に耳を傾ける謙虚さを示すことを意味します。」
この書簡は各国政府に対し、化石燃料からクリーンエネルギーへの移行に資金を提供する方法の合意、核戦争のリスクを軽減するための軍備管理交渉の再開、公平なパンデミック条約の創設など、特定の項目について合意するよう求めている。人工知能に関して私たちがアドバイスするのは、このテクノロジーを手に負えなくなるリスクではなく、善のための力にするために必要なガバナンスメカニズムを確立することです。
Skypeの共同創設者ジャーン・タリン氏とフューチャー・オブ・ライフ研究所を共同設立したMITの宇宙学者マックス・テグマーク氏はCNBCに対し、長老教会とその組織は人工知能を「悪」とはみなしていないが、人工知能が悪者の手に渡って急速に発達した場合、破壊的なツールとして使用される可能性があることを懸念していると語った。
Future of Life Instituteも昨年、高度な人工知能の開発を6か月間一時停止するよう求める公開書簡を発表した。この書簡には、アップル共同創設者スティーブ・ウォズニアック氏、イーロン・マスク氏、ピンタレスト共同創設者エヴァン・シャープ氏を含む1100人が署名した。この手紙には期待した効果はありませんでした。 AI 企業は開発を遅らせなかっただけでなく、実際に多くの企業が高度な AI の開発ペースを加速させました。
人工知能を核戦争と比較するのは新しいことではありません。昨年5月、専門家やCEOらはこの技術がもたらす絶滅のリスクについて警告した。 ChatGPT の開発者である OpenAI でさえ、人間よりも賢い人工知能が人類の絶滅につながる可能性があると述べています。