要約:
米国国防総省の高官らは最近、AI が人類を滅ぼす可能性があるという「終末論」に公に反論し、関連する懸念は変化への恐怖から生じていると考え、人類は依然として国防総省が特定したサプライチェーンのリスクであると繰り返した。現地時間9月10日のメディア報道によると、米国防総省の最高技術責任者で研究工学担当次官のエミール・マイケル氏は同日、AIリスクに対する最近の懸念の高まりについて公に回答した。
元人類技術者ジェイコブ・コクソン氏は以前、ソーシャルプラットフォームへの投稿で警告していた
マイケルはワシントン DC で開催された防衛産業会議でコクソン氏の投稿について言及しました。この投稿は現在 1 億 5,000 万回以上閲覧されています。
マイケルは、「人々は『アメリカ人の 40% を失業させ、人類を滅ぼす』という終末的な思考のサイクルに陥りやすいのです。」結局のところ、データセンターに対する恐怖と変化に対する恐怖が、すべて 1 つのよく書かれたツイートにまとめられているのです。」
彼は、
コクソン氏の投稿で言及された AI の潜在的な害は、自由市場メカニズム、業界全体の協力、政府とのコミュニケーションと協力を通じて軽減できると指摘しました。
コクソン氏は今週初めに複数の投稿を公開し、OpenAI と Anthropic が「私たちの命を賭けて自己改善の超知性を目指して真っ直ぐ進んでいる」と述べ、「あらゆるシステムを突破し、一夜にしてあらゆる分野を破壊し、真の権力と資源を獲得できる超人的なシステムが間もなく出現するだろう」と警告した。
メディアの報道によると、27歳のコクソンは英国人で、ケンブリッジ大学で数学を専攻して卒業した。彼は約 3 年間 OpenAI と Anthropic で事前トレーニングの研究に従事しており、GPT-4o の中心的な貢献者の 1 人でした。
マイケルは米国のオンライン配車プラットフォーム Uber の元幹部で、現在は米軍での AI の適用を加速する取り組みを主導しています。
法廷闘争は続く
マイケルが上記の発言をした日に、彼は国防総省とアントロピックの間で進行中の法的紛争についても話したことは注目に値します。
アントロピック社はコクソン氏の元雇用主であり、国防総省とアントロピック社の間の意見の相違の核心は、AI の使用をどのように制限すべきかにある。
現地時間 3 月 10 日のメディア報道によると、Anthropic は米軍に対し、自社のモデルを米国民の大量監視や完全自律型致死兵器に使用することを禁止するよう要請しました。これが両当事者間の論争の出発点であった。
マイケルはかつて両当事者間の主導的な交渉に参加していましたが、交渉は今年初めに決裂しました。国防総省は軍の権限を侵害するという理由で関連条件を拒否し、Anthropicが米国のサプライチェーンに対する脅威であると認定した。
両当事者間の紛争は連邦裁判所に移送され、Anthropic はカリフォルニアとワシントン DC で訴訟を起こしました。
現地時間9月3日のメディア報道によると、カリフォルニア北部地区連邦地方裁判所のリタ・リン判事は8月27日にアントロピックに有利な判決を下したが、ワシントンの連邦控訴裁判所はまだ判決を下していない。
マイケルは、アントロピックがよりリベラルな政治的立場を持つカリフォルニアの裁判所を訴訟の対象として意図的に選んだと非難し、ワシントンで審理中の別の訴訟の方が「より重要」であると述べた。同氏は、ワシントンの訴訟の判決が下されるまで、アンスロピックはサプライチェーンのリスクであり続けると主張した。
国防総省は以前、2 つの異なる法律に基づいて、Anthropic に対して 2 つの独立したサプライ チェーン リスク判定を行っていました。カリフォルニアの裁判所はそのうちの1件だけを覆した。もう 1 つの認定は、法律の要求に従って、ワシントン D.C. の連邦巡回区控訴裁判所で直接審理されました。したがって、ワシントン事件の判決が言い渡される前でも、国防総省の対応するリスク判断は有効なままである。
コメント