Anthropic は、トランプ政権がすべての外国人に同社の技術を利用することを禁止する前例のない命令を出したことを受けて、Mythos を含む最先端の人工知能モデルへのアクセスを遮断した。同社は声明で、国家安全保障への懸念を理由に、米国政府が「米国内外を問わず」すべての外国人に対するFable 5とMythos 5モデルへのアクセスを一時停止するよう求めたと述べた。米当局者は商務省が書簡を送ったことを認めた。その後、モデル開発者はコンプライアンスを確保するために、両方のシステムへの顧客のアクセスをすべて遮断しました。

米国政府が米国企業が開発した最先端のAIモデルへの外国のアクセスを制限するためにこれほど包括的な措置を講じたことはこれまでになかった。トランプ、バイデン両政権は半導体やスーパーコンピューターなど他の主要技術の輸出を制限しており、一部ではAIモデルへのアクセスをブロックすべきかどうかについて議論している。しかし、ソフトウェア自体に対する制限は、憲法レベルおよび商業レベルで複数の懸念を引き起こしています。

アンスロピック氏は、政府がこの命令を出したのは、最近リリースされたミトスの派生版『フェイブル5』に「脱獄」（つまり、安全柵を回避）する可能性があることが判明したためだと述べた。同社は以前、Fable 5がサイバーセキュリティ業務を実行することを禁止していた。

アンスロピックは公式ウェブサイトへの投稿で、「ジェイルブレイクの可能性が限られているという理由だけで、数億人のユーザーを対象とした商用モデルをリコールするのは不適切だと考えている」と述べた。 「業界全体がこの標準を導入すれば、すべての主要なモデルプロバイダーによる新モデルの展開は基本的に停止することになるでしょう。」

国家安全保障の名の下、政府は一連の AI モデルに対して広範な制限を実施しました。この動きは、OpenAI、Googleの親会社Alphabet、Metaなど、すべての主流AIモデル開発者にとって先例となる可能性がある。 Nvidiaのジェンセン・フアン最高経営責任者（CEO）やOpenAIのサム・アルトマン最高経営責任者（CEO）などの業界リーダーは以前、米国政府に対し、代わりに米国のAIシステムの世界的な普及を促進し、自国の最先端を維持するよう求めてきた。

アンスロピックは金曜日、ニューヨーク時間午後５時２１分に政府命令を受け取ったと発表した。金曜日の退勤前に発令されたこの命令は、トランプ政権のこれまでの声明や、政府がモデル審査に許可制度を導入しないとした最近署名された大統領令に反している。

金曜日の命令はまた、アントロピックとトランプ政権の一部との間の長年にわたる緊張を悪化させる可能性がある。 AI開発者は今年初め、その技術を軍事や監視目的で使用することをめぐって国防総省と衝突した。紛争後、政府は同社を米国のサプライチェーンリスクに指定し、連邦政府機関に同社製品の段階的廃止を命じた。

長年自らを「より責任あるAI開発者」と自認してきた非上場企業Anthropicは、今年4月にMythosモデルをごく少数の企業や機関に初めて公開し、同モデルにはネットワークセキュリティの脆弱性を発見する機能があり、大規模配布のリスクが高すぎると警告した。

限定的リリースにより、Anthropic とトランプ政権との対立が緩和された可能性があるという兆候があります。米国政府が中核的な連邦機関に Mythos のバージョンの使用を許可する準備をしているとの報告がありました。

ミトス氏はまた、トランプ政権にAI政策の策定を加速するよう促した。最近発行された大統領令は、自主的なモデルレビュー制度の導入を提案しており、大統領令が強制的なライセンス制度を構成しないことを明確にしている。

米国のAI開発者らは、最先端のモデルを発売し、その技術が利益を生む可能性があることを投資家に証明しようと競い合っているが、政府による最新の規制はこの傾向に逆行している。 SpaceXの歴史的なIPOを受けて、OpenAIとAnthropicの両社は早ければ今年中に株式を公開する予定だ。

最先端のAIモデルをリリースする機会をつかむために、アンスロピックは今月初めに長いブログを公開し、潜在的なリスクを回避するために技術研究開発をいつ遅らせるかを政府とAI開発者が共同で決定するメカニズムの確立を求めた。

同社は当時のブログ投稿で、危険なAI研究開発を「デモンストレーションするか一時的に中止するかの選択ができるのが世界にとって最善だ」と述べた。 AI技術は急速に発展しており、その効率化によって人間の作業効率が何千倍にも向上し、あるいは人間の作業を代替する可能性もあり、一連の新たなリスクが生じています。

欧州委員会は、アンスロピックの声明を評価しており、先進的なAIモデルに関連する潜在的なリスクやサイバーセキュリティの問題について同盟国とのコミュニケーションを続けていると述べた。欧州委員会は、最近の動向は欧州が技術的自主性を促進する必要性を浮き彫りにしていると付け加えた。