米国防総省は現地時間火曜日遅く、人工知能企業アンスロピックが自社技術の使用に関して設定した「レッドライン」により、同社は「容認できない国家安全保障上のリスク」を引き起こすと発表した。これは、「サプライチェーンリスク」の判断を巡って同社が起こした訴訟に対する同省の初の公式回答となった。これは、ピート・ヘグセス国防長官が先月、アンスロピック社を「サプライチェーンリスク」企業と分類し、アンスロピック社が国防総省によるその表示の強制を一時的に禁止するよう裁判所に要請した後に行われた。
カリフォルニア州の連邦裁判所に提出した40ページにわたる提出文書の中で、国防総省は、アンスロピック社が軍事利用が同社の企業の「レッドライン」に違反していると考える場合、同社が「戦闘作戦前または戦闘作戦中に自社の技術を無効化したり、モデルの動作を先制的に変更しようとしたりする」可能性があることが最大の懸念であると述べた。国防総省は、この不確実性が戦争作戦におけるこの技術の信頼性と制御性の程度に直接影響を与える可能性があると考えています。
情報によると、アンスロピックは昨年夏、機密システムへの人工知能技術の展開を含む2億ドルの契約を国防総省と結んだ。その後の契約条件に関する交渉の中で、アンスロピック社は、自社のシステムがアメリカ国民の大規模監視に使用されることを望まず、この技術は標的の選択や致死兵器による射撃の決定に直接使用するのにはまだ適していないと考えていると述べた。国防総省は、軍がテクノロジーをどのように利用するかについて民間企業が最終決定権を持つべきではないと強調し、テクノロジー適用の境界をめぐる両国の意見の相違が公になった。
国防総省がAnthropicを「サプライチェーンリスク」と分類した後、多くの関係者からの批判を引き起こした。複数の組織は、サプライチェーンのリスク特定というより致命的なツールを使わずに、国防総省が契約を解除することで立場を表明できた可能性があると指摘した。 OpenAI、Google、Microsoftを含む多くのテクノロジー企業の従業員と、複数の法的権利団体が、Anthropicの立場を公に支持するための「法廷法廷」提出書を提出した。
アントロピックは訴訟の中で、政府がイデオロギー的立場に基づいて企業を処罰していると主張し、合衆国憲法修正第1条の権利を侵害しているとして国防総省を非難している。同社は、企業には自社のテクノロジーの倫理的境界について意見を表明し、それに応じて制限を設定する権利があり、政府との価値観の違いを理由にセキュリティリスクのレッテルを貼られるべきではないと主張している。
現在、裁判所はアンスロピック社の仮差止申請に対する審理を来週火曜日に予定している。この記事の執筆時点では、Anthropic は国防総省の最新文書に対して公式には回答していません。
関連記事：
アンスロピック、国防総省のサプライチェーンへのリスク認定の差し止めを求めて控訴裁判所に申し立て