いくつかの米国連邦機関と政府当局者は、ドナルド・トランプ大統領による人工知能スタートアップAnthropicに対する禁止をひそかに回避し、同社の最新の高リスクハッキングモデル「Claude Mythos」を密かにテストしており、テクノロジー界と国家安全保障界に大きな懸念と不安を引き起こしている。このモデルは、一流のセキュリティ専門家ですら特定できなかった重大なソフトウェアの脆弱性を発見することで知られています。これは米国のサイバー防御を強化すると同時に、世界的なサイバー攻撃のリスクを潜在的に増幅させる「両刃の剣」とみなされている。
この件に詳しい元政府技術高官によると、少なくとも 2 つの大きな連邦機関の職員がここ数日で Anthropic に連絡を取り、Claude Mythos をサイバー防御に統合することに関心を示しているという。別の関係筋によると、国内外のAIモデルのリスクと機会の評価を担当する米国商務省の人工知能標準イノベーションセンター（CAISI）は、国家安全保障への潜在的な影響を評価するためにモデルの「ハッキング能力」を積極的にテストし、いわゆる「レッドチームテスト」を実施しているという。一方、議会の少なくとも3つの関連委員会のスタッフは、Mythosのネットワークスキャンと脆弱性マイニング機能に関するAnthropicの技術的説明を聞くために、過去1週間にわたって非公開の説明会を開催、または要請した。
この一連の行動は、人類学に対するトランプ政権からの継続的な圧力を背景に行われている。アンスロピック社のダリオ・アモダイ最高経営責任者（CEO）が国防総省による自律的致死攻撃や米国民の大量監視にそのモデルを使用することを認めることに公に反対したことを受け、トランプ大統領は2月、アンスロピック社の技術の使用を停止するようピート・ヘグセス国防長官と共同ですべての連邦機関に命令した。その後、ヘグセス氏はアンスロピック社を「サプライチェーンリスク」として挙げることはほとんどなかったが、これは同社のAIモデルを国防総省の契約システムから除外することに等しい。法律とAIの分野の一部の研究者は、米国政府が地元の最先端のAIセキュリティ技術サプライヤーを阻止しようとしているのに、同時にその「革新的な」ネットワークセキュリティ機能にアクセスするために禁止を回避しなければならないのは、まったく皮肉なことだと率直に述べた。
複数の議会側近は、ホワイトハウスによるAnthropicの阻止により、連邦政府が自らのサイバー防御を強化するために最先端技術を利用することが事実上阻止されたと述べた。ロシアや中国などの敵対者が同等、あるいはそれ以上のハッキング能力を備えたAIシステムの開発を競う中、米国政府のネットワークは政治的対立により「手を縛る」ことを余儀なくされており、自国のシステムの「ゼロデイ脆弱性」を発見して修復するためのMythosなどのツールを完全に導入することができていない。ある議会側近は、国防総省の動きを「自らの足を撃ち抜き、最も強力なAIサプライヤーを押しのける」に等しいとさえ述べた。
ホワイトハウスは声明で、トランプ政権が依然として複数のAI企業と協力し、関連モデルが重大なソフトウェアの脆弱性の発見と修正に役立つよう取り組んでいることを強調した。声明では、このAI主導のサイバー攻撃と防御の波から米国とその国民が確実に保護されるよう、政府が省庁や業界を超えて関係者に積極的に働きかけていると述べた。一方、Anthropicは先週、Mythosの未公開のソフトウェア欠陥を発見して悪用する能力を考慮すると、このモデルは現在、セキュリティ上の懸念から少数のテクノロジーおよびサイバーセキュリティ組織によるテストのみに公開されており、一般公開は行われないと発表した。
法的レベルでも、アンスロピック社と米国政府との対立は激化している。同社は先月、「サプライチェーンリスク」の特定をめぐって2つの連邦裁判所に同時に政府を訴え、その結果「分裂評決」が下された。カリフォルニア北部地区の連邦判事はリスク特定の一部を一時的に差し止めたが、その後コロンビア特別区連邦控訴裁判所は短期間ラベルの有効性を支持した。一部の法律専門家は、カリフォルニア州裁判所が停止決定を出していなければ、連邦機関がミトス社に合法的に連絡したり、試験評価を実施したりすることさえさらに困難になっていたか、完全に禁止されていたかもしれないと指摘した。
それでも、トランプ氏自身はAnthropicとその経営陣を公に非難している。今年2月、同氏はソーシャルメディアに投稿し、大規模な国内監視や米国民への自律的致死攻撃に自社のツールを使用することに断固反対したとして、同社のトップを「左翼の狂人」と呼んだ。元国家安全保障高官は、この一連の公の発言は「萎縮効果」をもたらし、多くの連邦政府機関がアンスロピック社に連絡する際にますます慎重になり、人材と資金の大規模な投資が大統領指令に違反するとみなされることを恐れ、アンスロピック社のモデルを自国のネットワークセキュリティ強化に利用することを検討していると述べた。
緊張にもかかわらず、ミトスが国家安全保障に与える潜在的な影響についての懸念がトランプ政権内で高まっている。この件に詳しい関係者らは、米国国立標準技術研究所（NIST）の傘下にあるCAISIが、Anthropicが正式に発表するずっと前に、Mythosの「ハッキングスキル」のテストを開始していたことを明らかにした。研究者たちは、レッドチームの手法を使用して実際の攻撃と防御のシナリオをシミュレートし、Mythos の機能とリスク評価を実施して、将来のネットワーク戦争の状況がどのように変化するかを判断しています。 NISTはAnthropicとの協力の具体的な詳細についてはコメントしていないが、Anthropicは独立したテストと技術評価のためにMythosを政府に提供していることを認めた。
CAISI に加えて、財務省の情報技術チームも、Mythos を使用して財務省ネットワーク内の未知のシステム脆弱性をスキャンして修正しようとしていたことが暴露されました。同時に、国防省はAnthropicモデルを使用して、ソーシャルプラットフォームX上でヘグセスが以前に出した最初の指示に従って、6か月以内の移行期間内に「より良い、より愛国的なサービス」への切り替えを完了しようとしている。理論的には、諜報機関と国家安全保障機関は極秘の枠組みの下で免除を取得し、Anthropicと協力し続けることができる。しかし、CIA高官による最近の公式声明は、諜報機関の同社に対する不信感も深まっていることを示している。
マイケル・エリスＣＩＡ副長官は最近の講演で、ＣＩＡは「民間企業がＣＩＡのテクノロジーをいつ、どのように合法的に使用できるかを決定することを許可しない」と述べた。同氏は、国家安全保障機関が主要な技術応用シナリオに関する最終決定権を保持し、サプライヤー自身の倫理的境界線に「乗っ取られる」ことがあってはならないと強調した。一部の元国家安全保障当局者の見方では、国防総省と人類間の緊張が悪化し続ければ、米国は今後２年間でより消極的な状況に陥る可能性がある。それまでに、ハッカーのような機能を備えた AI モデルが広く利用可能になり、世界的なサイバー攻撃の規模が「雪崩」のように増加する可能性がありますが、米国はこれに対して十分な準備ができていない可能性があります。
元NSA法務顧問のグレン・ガーステル氏は、「国防総省とアンスロピックの間の現在の緊張によって、サイバーセキュリティにとって重要と思われるテクノロジーの適切かつ安全な使用が妨げられないことを強く望んでいる」と述べた。同氏の見解では、政治的駆け引き、企業倫理、国家安全保障上の利益の間のバランスをいかに見つけるかが、AI主導のサイバー戦争競争の次の波における米国の立場を決定することになるだろう。