米国の AI スタートアップである Anthropic は最近、前例のない規制の嵐に巻き込まれています。同社は 10 日前に最先端の大規模モデルを一般公開すると発表しましたが、現在、輸出規制を理由に米国政府によって緊急停止されています。世界中の大多数のユーザーは、Fable 5 および Mythos 5 モデルにアクセスできなくなりました。米国がAIモデルそのものに直接輸出規制措置を発動するのはこれが初めてで、安全保障、産業、同盟関係に多方面で衝撃を与えている。
エコノミスト紙によると、マーク・ワーナー米国上院議員は6月11日の機密会見で、国家安全保障局（NSA）長官で米国サイバー軍司令官も務めるジョシュア・ラッド将軍が、公認されたレッドチーム演習中にアンスロピックのミトス・モデルがNSAのほとんどの機密システムの防御を数週間や数日ではなく「数時間」で突破したと語った、と報告した。この主張はまだどの政府機関からも正式に確認されておらず、関連する詳細は機密のままだが、この主張はすぐに、米国政府が6月12日に突然厳しい輸出禁止令を出した理由を説明する有力な説となった。営利企業のAIモデルが、短期間で世界で最も厳重に警備されている秘密インフラの1つに侵入したというものだ。
Anthropic が今年 4 月に Mythos を初めて公開したとき、このモデルはソフトウェア セキュリティの脆弱性を発見するのに強力すぎるため、悪用される危険があるため、一般には公開しないことを明らかにしました。これは、「Project Glasswing」と呼ばれるプロジェクトの下で、Amazon、Apple、Google、Microsoft、Nvidia、JPMorgan Chase、Linux Foundation を含む、厳密に審査された約 200 のパートナーにのみアクセスを提供することになります。それ以来、Mythos は、OpenBSD で 27 年間眠っていたセキュリティ上の欠陥や、Mozilla Firefox 150 ブラウザの 271 件の新たな問題を含む、何千もの現実世界の脆弱性の発見に貢献してきました。
6 月 9 日、Anthropic は Fable 5 モデルを一般公開しました。その基礎となる基盤は Mythos と同じですが、危険と判断されたリクエストをインターセプトし、これらのリクエストを処理のために能力の低いモデルにリダイレクトするためにセキュリティ分類子が上に重ねられています。 Anthropic の立場は、これらの「ガードレール」は公衆にとって Fable 5 を安全にするのに十分であるというものです。しかし、NSA侵入テストに関するラッド将軍の証言が暴露された後、米国政府は明らかにこの判決に同意せず、ミトスとフェイブル5の間でセキュリティ分類子によってもたらされる「能力のギャップ」だけでは信頼できる防衛線を構成するには十分ではないと考えた。
全てのきっかけとなった直接のきっかけは「脱獄」報道だった。米国政府は 6 月 12 日、Fable 5 セキュリティ分類子をバイパスし、最も機密性の高いサイバー攻撃および防御機能を解除する方法を発見したと Anthropic に通知しました。 Anthropic によると、政府はこの脆弱性について口頭でのみ知らされ、それを「潜在的で狭い、非普遍的なジェイルブレイク」であると説明し、同社に行動を起こすために 90 分の猶予を与えたという。この脱獄は、Anthropic の重要な投資家であり AI 分野の競合会社である Amazon によって米国商務省に最初に報告されました。同時に、「解放者プリニウス」というペンネームを使用する研究者が、Fable 5 がオンラインになってから 48 時間以内に、自称完全なシステム プロンプト ワードを X と GitHub に投稿しました。
政府からの圧力に直面して、Anthropic は、この脱獄の影響は限定的であり、普遍的ではなく、Fable 5 の全体的なセキュリティを根本的に破るものではないとの評価を強調することで対応しました。同社はまた、OpenAIのGPT-5.5など一般に公開されている他のモデルにも同様のセキュリティ脆弱性が存在するが、これらのモデルは同程度の厳格な輸出規制には遭遇していないことも指摘した。 Anthropicは声明で、Fable 5の現行基準が業界全体に適用されれば、「ほぼすべての大手モデルプロバイダーが新モデルの展開を停止せざるを得なくなるだろう」と警告した。
セキュリティ コミュニティの一部は Anthropic の評価に同意しています。 Facebookの元最高セキュリティ責任者アレックス・ステイモス氏は、関連する調査を検討し、注目に値する発見があったと信じているが、この極端な対応を正当化するような「独自の能力」は実証されなかったと述べた。しかし、トランプ政権顧問デービッド・サックス氏は反対の見解を示し、アンスロピック社がサイバー兵器を完全に動作させるのに十分な脱獄が「深刻ではない」と定義できるとどのように主張できるのか理解するのは難しいと述べた。
政治的背景により、部外者がこの決定を純粋に技術的な安全性の問題として見ることがさらに困難になっています。アンスロピック社が自律型兵器システムや大規模な国内監視でのAIの使用を可能にする契約条件への署名を拒否したことを受け、トランプ政権は2月、すべての連邦機関に対し同社モデルの使用を停止するよう命令した。その後、国防総省はアンスロピックを「サプライチェーンリスク」に分類し、軍事請負業者によるモデルの使用を禁止し、現在アンスロピックは連邦裁判所でその指定に異議を申し立てている。この一連の紛争により、今回の輸出規制は、重大な安全保障上の事件に刺激された長期戦の勃発のようなものとなっている。
さらに深刻な問題は、制度が存在しないことにある。一部のアナリストは、米国には最先端のAIモデルのセキュリティリスクを評価し制御するための安定的で透明な枠組みがまだ欠けていると指摘した。 6月2日、トランプ政権はAI企業に対し、新世代の最先端モデルが一般公開される前に政府に30日間の事前アクセスを「自主的に」提供するよう求める大統領令を出した。しかし、Fable 5 は 7 日後に直接オンラインになり、この「自主的な枠組み」に準拠していませんでした。実際問題として、6月12日の禁止措置は企業に政府の審査への協力を強制する強力な手段となった。 「ダイアログ」ウェブサイトに掲載された分析記事では、本質的な問題は、政府が最先端の独自モデルを独自に評価するために必要なデータ、インフラ、専門的能力を欠いていることであり、企業への依存も今回の大統領令で何らかの形で認められているとしている。
この禁止の影響は米国をはるかに超えて広がります。 Fable 5 と Mythos 5 へのアクセスが完全に遮断されたとき、ファイブ・アイズとして知られる伝統的な米国情報同盟であるオーストラリア、イギリス、カナダ、ニュージーランドも警告なしに同時にロックアウトされました。最先端のモデルをテストする世界有数の機関とみなされている英国の AI 安全性研究所が、関連システムの評価プロセス中に突然アクセスできなくなった。この目的のために、5か国の情報機関は月曜日に異例の共同声明を発表した。人間論や神話という名前は付けられていませんでしたが、その文脈は間違いなく現在の状況を示していました。
共同声明では、最先端の AI モデルが現在の業界の期待を超え、ネットワークの攻撃と防御能力の状況を根本的に変えることが期待されると指摘しました。関連リスクの時間枠はもはや「年」ではなく「月」で測定されます。この文書にはNSAサイバーセキュリティ長官デビッド・インボルディーノ氏やCISA局長代理ニック・アンダーセン氏を含む高官が署名した。声明では、AIは悪意のある攻撃者が攻撃を仕掛けるしきい値を大幅に下げ、パッチが適用されていないシステム、脆弱なID管理制御、不必要にインターネットに公開されるサービスなど、何年も解決されていない同じ古い問題を悪用し続けるだろうと警告した。この声明では、サイバーリスクはもはや純粋な技術的な問題ではなく、中核的な企業リスクとリーダーシップの責任であると強調した。
オーストラリアのシドニー大学の国家安全保障とAIの専門家であるオリビア・シェン氏は、部外者は自らの視野を人類学に限定すべきではないと指摘した。彼女は、業界は「次のミトスか次の寓話がすぐに登場する」ことを期待しなければならず、現在一般の人々はリリースされたモデルしか見ることができず、中国や他の国や関係者によって開発された同等またはさらに高度なシステムが密室で進められている可能性があると信じています。セキュリティメディアのサイバースクープは、今回の政府の行動を引き起こしたAmazon脅威インテリジェンス報告書で言及されている攻撃能力は、Claude OpusやClaude Sonnetなどの旧世代のモデル、さらには米国の輸出規制の対象になっていないオープンソースの中国製モデルの助けを借りて実際に達成できると指摘した。オープンソース モデルは従来、ヘッド ラボよりも機能が約 6 ～ 8 か月遅れていたため、Fable 5 を無効にすることで実際に意図的な攻撃者の速度が大幅に低下するかどうかは未解決の疑問です。
現時点では、Fable 5 と Mythos 5 はほとんどのユーザーにとってまだオフラインです。アンスロピックは以前メディアに対し、同社は「今後数日以内にモデルの入手可能性が回復すると非常に自信を持っている」と述べたが、この立場はまだ果たされていない。予測市場が示す確率によれば、7 月 1 日より前にアクセスが回復する確率は約 57% です。トランプ大統領は先週アクシオスとのインタビューで、もはや人類を国家安全保障上の脅威とは考えていないと述べ、「1週間前はそうだったかもしれないが、今はそうではない」と語った。両者はG7期間中に会談し、トランプ大統領は交渉の進展について「すべてが非常に順調に進んでいる」とコメントした。
サイバーセキュリティ研究者、AI起業家、企業経営者を含む数十人が月曜日、連名でホワイトハウスに書簡を送り、将来のAIリスク評価と対応プロセスにおいて「オープンで科学的かつ透明性のある」プロセスに取り組むよう政府に求めた。より運用上のシグナルは、7月8日に発効予定のAnthropicの本人確認ポリシーから発せられる可能性があると考えられており、これにより同社はユーザーが米国国民であるかどうかを確認できるようになり、輸出規制令を完全に取り消すことなく米国での同モデルの利用可能性が回復することが期待される。
この禁止措置が短期的にどのように終わるかはまだ不明だが、過去10日ほどが明らかに転換点となった。米国がAIの動作をサポートするハードウェア機器ではなく、AIモデル自体に直接輸出規制を課したのはこれが初めてだ。欧州はこの前例を注視しており、将来、Azure、AWS、Google Cloudでも同様の状況が繰り返される可能性を懸念している。元英国安全保障大臣のトム・トゥーゲントハット氏は、このような「直感的な教訓」の後、各国は重要なクラウドとAIインフラストラクチャにおいて自国の主権能力を実現する方法を考え始めるだろうと率直に語った。ミトスが実際に数時間以内に NSA のほとんどの機密システムに侵入したかどうかについては、政府機関からの独立した確認はなく、具体的な詳細は依然として機密文書に隠されています。