3 月 30 日、X プラットフォーム上で転送されたビデオに対するコメントが爆発的に増加しました。ユーザーの@malmesburymanは、Anthropic CEOのDario Amodei氏のインタビュークリップをリツイートし、次のキャプションを付けた：トルーマンがなぜオッペンハイマーをあれほど嫌悪感を抱いたのか、この男からはよくわかる。
ビデオの中で、アモデイ氏はおなじみのレトリックを繰り返している。
私たちのモデルはすでに人間の知能のレベルに非常に近づいていますが、社会は今後のリスクについて広く認識されていません。
このコメントは二極化を引き起こした。支持者たちは、オッペンハイマーが原爆製造後に「彼の手は血だらけだ」と言ったのと同じように、アモデイは強力なAIを開発しながら聖人のふりをしていると信じている。
反対派は、この例えはまったく成り立たないと主張する。オッペンハイマー氏は原爆で数十万人が死亡した後に初めて罪悪感を表明したが、アモデイ氏はテクノロジーが災害を引き起こす前にそのリスクについて警告した。
しかし、より深い疑問は、なぜ最先端の AI を開発するすべてのリーダーが、どのようなやり方であれ、その動機について疑問視されるのかということです。
アモデイのジレンマ: レッドラインに固執するとサプライチェーンの脅威になる?
AIのリスクについて警告したとしてアモデイ氏が叱責されるのはこれが初めてではない。
2月、同氏は国防総省の「すべての合法的使用」条項を拒否し、アンスロピックの2つの越えてはならない一線を主張した。
その結果、ピート・ヘグセス国防長官はアンスロピックを「サプライチェーンの安全保障上の脅威」と宣言し、トランプ大統領はすべての連邦政府機関に対し、6か月以内にクロードを無効化するよう命じた。
通常、外国の敵対者に対して使用されるこのラベルは、アメリカ企業に対して適用されたことはありません。
アモデイ氏は流出した内部メモの中で、国防総省とトランプ政権が人類学を好まない本当の理由は次のようなものであると率直に述べた。
私たちはトランプに寄付せず、トランプを独裁的に賞賛せず、AI規制（彼らの政策に反する）を支持し、AI政策の問題（雇用の代替など）について正直に話し合い、実際に「安全保障ドラマ」を演出するために彼らと共謀するのではなく、越えてはならない一線を守り続けた。
1週間後、アモデイ氏はメモの論調について「検討した私の見解を代表したものではなかった」と謝罪した。
自分の原則に固執すると敵扱いされます。
リスクを警告し、協力を拒否した場合、権力を求めている、あるいは道徳的地位を獲得していると疑われます。
アルトマンのジレンマ: レッドラインを支持するが、日和見主義で非難される
もしアモデイがレッドラインを遵守したために弾圧された場合、たとえそれを支持しても叱られるだろうとアルトマンは語った。
アンスロピックと国防総省との交渉が決裂してからわずか数時間後の2月28日、アルトマン氏はOpenAIが国防総省と合意に達したと発表した。
同氏は、OpenAIはAnthropicと同様、大規模な監視や完全自律型兵器を禁止していると述べた。
外の世界は爆発的に広がり、OpenAI が重要な瞬間に Anthropic の立場を弱めたとして非難しました。
これらの企業がセキュリティへの取り組みに本当に真剣であれば、政府が市場の競争相手として互いに搾取するのを許すのではなく、団結して国防総省に立ち向かうべきだった。
さらに恥ずかしいのは、OpenAI自身の従業員が先週、Anthropicを支持し国防総省に反対する公開書簡に署名したばかりだということだ。
今度は上司が翻意して契約書に署名しただけで、従業員は裏切られたと感じました。
アルトマン氏は月曜日にこう認めた。
私たちは金曜日にこの合意を発表することを急ぐべきではありません。私たちは状況を沈静化させ、より悪い結果を避けたいと心から思っていましたが、それは単にご都合主義で性急に思えました。
しかし、たとえOpenAIが契約条件を変更したとしても、法律の専門家やオブザーバーは、その制限が実際に拘束力を持つのかどうか依然として疑問を抱いている。
アルトマン氏は内部会議で従業員に対し、国防総省はOpenAIが「戦闘の意思決定に参加できない」こと、同社は技術的な専門知識とアドバイスを提供することしかできず、軍事作戦の質について意見を表明することはできないことを明らかにしたと語った。
ハサビスのジレンマ: 10 年後、世界は変わった
時間はあなたの約束も含めてすべてを変えます。
2014年にGoogleがDeepMindを買収したとき、GoogleはDeepMindの技術を軍事や兵器の目的には決して使用しないと約束した。
2018年、ハサビスとディープマインドの共同創設者は、「自律型致死兵器に対する強力な国際規範、規制、法律」の制定を求める公開書簡に署名した。
しかし、Googleは2025年までにAI原則を改定し、軍事技術を開発しないという約束を削除した。
DeepMind のテクノロジーは現在、Google Cloud ソフトウェアにバンドルされており、米国やイスラエルを含む多くの国の軍に販売されています。
TIME誌は「AGIの目標を達成するために妥協したことはありますか？」と質問した。ハサビスの答えはこうだった。
私はそうは思わない。当社は最近、世界的な地政学的不確実性の大幅な増大に対応して、ポリシーの一部を更新しました。
残念ながら、世界はさらに危険な場所になってしまいました。民主主義の価値観が勝利することを私たちはもはや当然のことと考えることはできないと思います。それは単純に明らかではありません。したがって、政府と協力する必要があると思います。
今年5月、ディープマインドの従業員約200人が軍事契約の放棄を求める社内書簡に署名した。
6月の社内会議でCOOのライラ・イブラヒム氏は、DeepMindは兵器や大規模監視のためのAIアプリケーションを設計したり導入したりすることはなく、Google Cloudの顧客は規約に拘束されると答えた。
ジレンマには解決策はないが、警告は止まらない
アモデイ、アルトマン、ハサビス、３人は３つの道を歩みましたが、全員叱られました。
赤い線に固執しますか？あなたは道徳的高みと規制上の利点を求めています。
妥協して協力しますか？あなたは偽善者で、言葉と行動が一致していません。
立場を変えてみませんか？あなたはお金のために魂を売っているのです。
あなたが開発者でありセキュリティ擁護者の両方である場合、あなたが行うすべての警告は、「あなたは自分の会社に利益をもたらしている」と解釈されます。
これらの予測は正しい場合もあれば、間違っている場合もあります。
しかし、一つだけ確かなことがある。アモデイであろうと、アルトマンであろうと、ハサビスであろうと、彼らの言動に関わらず、その動機を疑問視する人もいるだろう。
しかしおそらく、災害が起こるのを待ってから「警告した」と言うよりも、論争が続いている間も警告を続ける方が、依然として責任ある選択だろう。