米国の人工知能企業オープンAIのサム・アルトマン最高経営責任者（CEO）は最近、従業員に宛てた社内メモの中で、同社は米国防総省（国防総省）との協力の可能性に関しては競合他社のアンスロピックと同じ「越えてはならない一線」を遵守する、つまり自社の人工知能技術が大量監視や完全自律型致死兵器システムに使用されることを拒否すると述べた。
アルトマン氏はメモの中で、OpenAIは大規模な監視に対する技術支援は提供しないし、致死攻撃を自律的に判断できる兵器システムの開発にも参加しないと強調した。これは、アンスロピック社が国防総省とのこれまでの交渉で主張してきた結論と非常に一致している。 Anthropic が上記 2 種類の用途に関して譲歩を拒否したため、米国国防総省との注目を集める一か八かの勝負が始まった。
この声明により、軍事AI分野における国防総省の配置は新たな不確実性に直面することになる。これまで、Anthropic の大規模言語モデル Claude は、米軍の最も機密性の高いビジネス シナリオの一部に初めて統合され、国防総省にとって最先端の AI テクノロジーの軍事利用を促進するための重要なステップとみなされていました。現在、OpenAIとAnthropicが重要な倫理的境界線で一貫しており、Googleなどの他の大手企業も同様の立場をとっている場合、国防総省は代替案を探す際、特に汎用の大型モデルを非常に機密性の高い軍事任務に配備する際に、交渉や技術取得に対してより大きな抵抗に直面することになるだろう。
軍事AIを巡る技術的・倫理的な議論が、米国のテクノロジー企業と政府部門の間で激化している。一方では、米国国防総省は、汎用人工知能を使用して情報分析、戦闘指揮および戦場での意思決定能力を向上させ、さらにはより高レベルの自動化アプリケーションを探索したいと考えています。その一方で、多くの大手AI企業はビジネスチャンスと倫理的責任のバランスを模索しており、「越えてはならない一線」を設定することで大量監視や自律型殺傷兵器などのデリケートな分野でのテクノロジーの拡散を制限しようとしている。
アルトマン氏の声明は、国防総省と人類の違いが公になったことを受けて、軍事AIの最終ラインにおけるもう一人の主要人物の明確な位置づけとみなされている。米国の AI 産業が高度に集中している状況において、主流企業が倫理的境界線について合意に達すれば、軍による一般的な AI 機能の将来の取得と展開の道筋とペースに大きな影響を与えるでしょう。また、米国内で軍事AIの監督や国際ルールに関するさらなる議論やゲームが促進される可能性もある。
関連記事：
アントロピックは2億ドルの防衛契約から撤退する準備をしている、米国国防長官は技術共有を強制すると脅している
米国国防総省、Anthropic AI ツールの無制限使用の公開期限を設定