先週、米国政府はアマゾンのサイバーセキュリティ技術者から情報を受け取り、A社に対し米国人以外へのクロード・フェイブル5モデルの提供を停止するよう求める緊急輸出管理命令を出した。輸出管理命令を出した理由は、Amazonのネットワークセキュリティエンジニアが、このモデルのセキュリティメカニズムが不十分であり、特定の方法でセキュリティ境界を回避して機密コンテンツを入手できる可能性があることを発見したためだった。コンプライアンス上の考慮事項に基づいて、A 社はクロード・フェイブル 5 モデルを世界中で直接削除しました。
A社はモデルを撤去する一方で、米国政府の輸出管理指示の不透明さを非難する公開書簡も発行した。この目的を達成するために、A 社は上級技術チームをワシントンに派遣し、米国政府との緊急協議を実施しました。当初、モデルは緊急協議の後すぐに復元されると予想されており、A 社はより厳格なセキュリティ境界を導入しました。しかし、現時点では交渉は順調に進んでいない。
交渉が終わった後も統制命令は解除されなかった。
米国政府が輸出規制命令を出した理由は、Claude Fable 5 をジェイルブレイクしてセキュリティ保護を回避することができ、一般ユーザーが Claude Mythos Preview モデルと同様の強力なネットワーク セキュリティ機能を取得できるためです。これにより、インターネット セキュリティに隠れた危険が生じる可能性があります。もちろん、米国政府は、一般ユーザーがClaude Fable 5を使用してジェイルブレイクを通じて米国のインフラへの攻撃を開始し、それによって公共の安全に影響を与える可能性があることを懸念しています。
アンスロピック社は、米国政府の懸念は誇張されていると常に信じていたが、問題を解決するにはまだ交渉が必要だった。そのため同社は、共同創設者兼最高コンピューティング責任者、渉外責任者、フロンティアレッドチームのリーダー、上級セキュリティ研究者を交渉に参加させるためにワシントンD.C.に派遣した。米国政府の交渉参加者は、米国商務長官と米国人工知能標準イノベーションセンターの研究者でした。
『WIRED』が発表したニュースによると、Anthropicと米国政府との交渉は終了したという。しかし、米国政府はクロード・ファブル5モデルの輸出規制を解除しておらず、依然として膠着状態にある。クロード・ファブル5モデルの回復時期は遠い。アンスロピックは、双方が問題の解決を迅速に推進しているとのみ述べ、米国政府はコメントを拒否した。
中心的な問題は、ジェイルブレイクが解決されていないことです。
両当事者間の現在の紛争は依然としてクロード・ファブル 5 モデルのセキュリティ問題です。 Anthropic は、Mythos クラス モデルは脆弱性の発見と武器化された悪用の点で確かに優れていますが、ユニークではないと考えています。他のモデルも同様のことを行う可能性があり、モデルを削除しても、ネットワーク セキュリティの防御者が最適なツールを奪うことになるだけで、むしろ不確実性が生じ、ネットワーク セキュリティが危険にさらされることさえあります。
米国政府の見解は常に、Claude Fable 5 を使用できるように復元する方法を見つけることに前向きであるというものですが、その前提条件は、Anthropic が脱獄の問題を完全に解決できることです。脱獄問題が解決できなければ、米国政府が懸念する安全保障上のリスクが依然として存在するため、規制緩和も不可能となる。ただし、AI モデルがジェイルブレイクの問題を完全に解決することは非常に困難であり、セキュリティ境界がどれほど厳しくても回避する方法はあります。