ウォール・ストリート・ジャーナルによると、6月14日、この問題に詳しい関係者らは、トランプ政権が外国人によるアンスロピック社の最先端のAIモデルの使用許可を停止することを決定したと語った。この決定はアマゾンCEOのアンディ・ジャシー氏によるものだ（アンディ・ジャシー）スコット・ベッサント米財務長官と(スコット・ベッセント)役人同士のコミュニケーション。

事情に詳しい関係者らによると、ジャシー氏は米当局者に対し、アマゾンの研究者らが一連の即興的な言葉を使って意図的に攻撃したと語った。Anthropic の Fable 5 モデルのブートストラップに成功すると、サイバー攻撃を支援するために使用される可能性のある禁止された情報が提供される。テクノロジー業界の幹部らは、最先端のAIツールの威力について政府と定期的に連絡を取り合っている。

その直後、ホワイトハウス当局者らは対応について話し合う会議を開き、セキュリティ研究者らがアマゾンの主張を検証し始めた。政府関係者によると、当局はAnthropicに質問した。関連する脆弱性を修正する、そうでない場合は、棚から削除されましたモデル。

関係者らによると、米当局は最終的に、リスクを排除する最も直接的な方法は、外国政府、企業、個人によるツールの使用を阻止することだと判断したという。ホワイトハウス高官は、イノベーションを妨げる可能性があるとの懸念にもかかわらず、トランプ大統領が最終的にこの動きを承認したと述べた。


アマゾンCEOジャシー、モデルの問題を米当局に報告

米国政府は長年、米国のAI競争のリーダーの1つであるAnthropicは、その新しいモデルによってもたらされるセキュリティリスクを適切に管理できるとは信頼できないと主張してきた。関係者らによると、一部の政府当局者とアンスロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）が金曜日に行った電話会談でこの見方が強まったという。

政府の動きを受けて、アンスロピック社は、コンプライアンスを確保するために、Mythos および Fable モデルへのすべてのユーザー アクセスを遮断する、これらのツールを使用してソフトウェアの脆弱性を特定する世界中の企業の取り組みを妨げる可能性があります。アンスロピック社の研究者の多くは海外生まれで、政府の規制により最新モデルの開発が事実上妨げられていると同社は述べた。

米国政府とアマゾンの間のコミュニケーションは、米国の大企業と政府が AI テクノロジーによってもたらされる新しい機能に対応するためにどのように協力しているかを反映しています。 Amazon は Anthropic への主要投資家であり、自社のデータセンターにチップを供給するだけでなく、ソフトウェアの脆弱性を特定するための最先端モデルの導入も行っています。金曜日に急速に起こった一連の出来事は、AIの分野では、新たな発見や実験結果が政府の規制政策に即座に影響を与え、企業の発展見通しや市場の運命にさらに影響を与える可能性があることを示した。

Amazonの広報担当者は「多数の民間および公共部門の顧客にサービスを提供する大手クラウドサービスプロバイダーとして、政府から潜在的なセキュリティリスクについて当社に相談を受けることは珍しいことではない。そのような状況が発生した場合、当社は協議の詳細を開示しない」と答えた。

アンスロピック氏は、アマゾンが指摘した脆弱性は実際には比較的基本的な問題だと述べた。同社は、他の公開されているモデルもこれらの脆弱性を発見することができ、これらの問題は完全ないわゆる「脱獄」を構成するものではないと述べた。 Amazonの研究に詳しいセキュリティ研究者の中には、これに同意する人もいる。

アンスロピック社はまた、適切なセキュリティ対策を講じており、同社はセキュリティを非常に真剣に受け止めていることで知られていると述べた。同社はこれまで、ホワイトハウスの指示に従い、Mythosモデルへのアクセス拡大を保留していた。

アマゾンレポート

金曜日の輸出規制は、ユーザーがAnthropic Fable 5モデルのセキュリティ保護を回避したという報告を受けてのもので、サイバー攻撃を支援するために使用される可能性があるとの懸念がさらに高まっています。

アマゾンがサイバーセキュリティ専門家らと共有したフェイブルモデルに関する報告書によると、特定のプロンプトワードを使ってフェイブルに質問すると、このモデルは少なくとも4つのソフトウェアプログラムのセキュリティ脆弱性を見つけ出すことができたことが報告書を見た関係者らによると明らかになった。サイバーセキュリティ企業GreyNoise Intelligenceの創設者であるアンドリュー・モリス氏は、通常、この情報はFableから提供されることはないが、それでも真に危険なサイバーセキュリティ情報には程遠いと述べた。

同氏は、他の多くのツールでも同様の脆弱性を発見できたと述べた。しかし、Anthropicのソフトウェアは、脆弱性情報をさらに実際に実行可能な「エクスプロイトコード」に変換できると考えられているため、大きな注目を集めている。このようなコードはコンピュータ ネットワークに侵入するために使用される可能性がありますが、Amazon の研究者がこの機能の取得に成功したという証拠はなく、Fable のセキュリティ保護メカニズムによって保護されています。

事情に詳しい関係者によると、アマゾンのジャシー最高経営責任者（CEO）による政府関係者への電話は、一部の人々には一般的な注意喚起とみなされていたが、問題は急速にエスカレートし、最終的には商務省が外国人ユーザーによるミトスと寓話のモデルへのアクセスを完全に禁止するに至ったという。国家サイバー長官ショーン・ケアンクロス氏と商務長官ハワード・ラトニック氏が議論に参加した。商務省は主要技術の輸出管理を担当しています。

Anthropic は今年初めに Amazon や他のテクノロジー企業向けに Mythos モデルのプレビューを開始し、トランプ政権と段階的なアプローチで協力しています。その目標は、主要ユーザーがこのモデルを使用してソフトウェアの脆弱性を見つけて修正してから、一般にアクセスできるようにすることです。

金曜日に米国政府がとったこれらの措置は、アントロピックとトランプ政権の間の長年にわたる対立を再び引き起こした。両当事者はすでにAIモデルの使用をめぐって法廷に訴えている。トランプ政権は、リベラルな理念への寄付者とのつながりや、AIのリスクについての警告を理由に、このスタートアップに対する不信感を依然として抱いている。アントロピックはこれまでにバイデン政権の元幹部を多数雇用しており、アモデイ氏もトランプ大統領とその政権を批判していた。

アモデイ氏、ベッサント氏、ホワイトハウス首席補佐官スージー・ワイルズ氏は4月の会合に出席したが、この会合は親善と和解の機会とみられていたが、安全保障に関する議論も含まれていた。