3月9日、米国の人工知能企業アンスロピックが国防総省を訴えた訴訟で新たな展開が起きた。 OpenAI と Google DeepMind の 30 人以上の従業員が法廷に共同声明を提出し、米国国防総省 (DOD) に対する訴訟における Anthropic の立場を公に支持しました。
法廷文書によると、声明では、Anthropicを「サプライチェーンリスク」に挙げるという政府の決定は不適切かつ恣意的な権力の行使であり、人工知能業界全体に深刻な結果をもたらす可能性があると述べられている。署名者には、Google DeepMind のチーフサイエンティストである Jeff Dean やその他の業界の重鎮技術者が含まれます。
以前、米国防総省はアンスロピックを「サプライチェーンリスク」と正式に認定したが、このラベルは通常「外国の敵対者」にのみ適用される。報道によると、引き金となったのは、国防総省が米国国民の大量監視や自律射撃兵器システムの実施に同社のAI技術を使用することをアンスロピック社が拒否したことだった。国防総省は、その使用が「合法的」である限り、民間請負業者によって制限されるべきではないと主張した。
Anthropic が国防総省およびその他の連邦機関に対して 2 件の訴訟を起こした後、その立場を裏付けるこの「法廷準備書面」がすぐに訴訟ファイルに掲載されました。これは、軍事 AI アプリケーションの境界を巡る業界内の緊張を示しています。この意見書を最初に公開したのは『ワイアード』誌だと報じられている。
裁判所に提出された文書の中で、GoogleとOpenAIのこれらの従業員は、国防総省がAnthropicとの既存の契約条件に「満足できなくなった」場合、サプライチェーンのリスク特定による「罰」ではなく、直接契約を終了し、他の大手AI企業からのサービス購入に切り替えることができると強調した。
実際、Anthropic がサプライチェーンのリスクとして挙げられたのとほぼ同時に、国防総省は OpenAI と新たな協力協定に達しましたが、この動きは OpenAI 内の一部の従業員からの強い抗議も引き起こしました。これらの従業員は、軍が機密性の高い試験を実施するために大型商用モデルを使用することで、安全境界に関する業界のコンセンサスに影響を与えるのではないかと懸念している。
意見書は、このような「懲罰的」措置が続けば、人工知能やより広範な科学産業における米国の競争力が弱まるのは避けられないと警告した。文書ではさらに、このアプローチは、業界における現代の AI システムのリスクとメリットに関する公の議論に萎縮効果をもたらし、テクノロジー コミュニティがセキュリティ問題について率直に議論することを妨げると述べています。
現在、AI の使用に関する法的枠組みが明文化されていないため、この文書では、開発者が契約条件や技術的手段を通じてシステムに課すさまざまな制限が、AI の壊滅的な悪用を防ぐための重要な安全弁であると考えています。アントロピックが軍との協力において引いた「越えてはならない一線」（例えば、大規模監視や自律的殺害システムへの参加の拒否など）は、統合幕僚からは「国家安全保障への障害」ではなく、合理的かつ必要な安全保障要件とみなされている。
注目に値するのは、法廷声明に署名した従業員の多くは、以前に国防総省に対してアンスロピック社のサプライチェーンリスク特定の取り消しを求める公開書簡に署名しており、自社の経営陣に対しアンスロピック社を公に支持し、無防備な状況下での一方的な使用のために自社のAIシステムを軍に提供することを拒否することを約束するよう要請していることである。
業界アナリストらは、この訴訟はAI企業が契約レベルで自社の安全性最終ラインを遵守できるかどうかを問うだけでなく、米国が国家安全保障のニーズとAIセキュリティガバナンスとの間にどのような線引きをするのかを示す画期的な出来事になると考えている。訴訟が進むにつれて、軍事用AIアプリケーションを巡るテクノロジー企業、従業員、政府の間の争いはさらに激化すると予想される。
関連記事：
Anthropic、国家安全保障のブラックリストへの掲載差し止めを求めて米国国防総省を提訴