アメリカの仮想現実機器会社オキュラスの創設者で軍事技術会社アンドゥリルの創設者であるパー​​マー・ラッキー氏は最近テレビのインタビューで、戦争における生死の決定に人工知能が参加することを認められるべきだと述べ、「キラーロボット」をめぐる倫理論争が再燃した。

ラッキー氏はFOXニュースチャンネルで、生死にかかわる決断に関しては「道徳的負担が重すぎ、リスクが重大すぎる」ため、各国は人工知能や量子技術、その他のツールであっても、どんな犠牲を払ってでも最先端の技術を導入すべきだと述べた。彼の見解では、戦争の目的が民間人の死傷者と巻き添え被害を最小限に抑えることであるならば、攻撃の意思決定においてより正確なシステムを使用することは、「人間がすべてを制御している」という立場を主張するよりも「道徳的に優れている」という。

同氏は、鍵となるのは「誰が生き、誰が死ぬかをロボットは決定できない」という兵器システムのレッドラインを人為的に引くことではなく、事故による負傷や誤った判断を減らすために可能な限り効率と精度を向上させることだと指摘した。ラッキー氏は、「機械に殺人命令を決して与えない」という道徳的姿勢を維持するためだけに、性能の劣るテクノロジーを選択することは、実際には人間性の水準を高めることにはならない、と率直に述べた。

この声明は、Anduril のビジネスの方向性と非常に一致しています。同社は2017年の設立以来、軍事用のドローン、地上車両、監視塔、各種センサーの開発に注力し、これらのハードウェアをLatticeと呼ばれる人工知能指揮統制プラットフォームを通じて統合システムに統合している。同社はこれまでに「自爆ドローン」を含むさまざまなAI軍事機器を実証しており、戦場での「高度な自動化」に対する懸念がさらに高まっている。

2024年末、アンドゥリルはOpenAIとの戦略的提携を発表し、国家安全保障の分野で高度な人工知能技術を「責任を持って展開」する計画で、まず、米軍の航空脅威をリアルタイムで検知、評価、対応する能力を強化する対ドローンシステムなどの防衛用途に焦点を当てる。同時に、軍事用AIの研究開発に参加するかどうかをめぐるテクノロジー企業の姿勢は、静かに緩みつつある。たとえば、今年の初めにGoogleは、「武器などの有害な目的にAIを使用しない」というこれまでの約束の重要な声明をひっそりと削除したため、業界は戦争におけるテクノロジー企業の役割の境界について再び議論することになった。

AI機器が進化し続ける中、この種の技術が核兵器管理システムに導入されるかどうかに海外の注目も集まっている。 2024年5月、米国は核兵器の管理は常に人間の手に委ねられるべきだと公に約束し、中国とロシアにも同じ保証をするよう求めた。しかし、それから間もなく、国防総省は核の指揮、制御、通信システムの能力を「強化」するためにAIを使用したいと述べた。この姿勢の微妙な変化は、観察者の警戒を引き起こした。

学界と産業界は、AIを「核のボタン」に近づけるという考えに特に不安を抱いている。昨年、研究チームは GPT-4、GPT-3.5、Claude 2.0、Llama-2-Chat、GPT-4-Base などのさまざまな大規模モデルを使用して、国際紛争シナリオをシミュレートしました。結果は、これらのシステムがゲームのプロセス中にエスカレートする明らかな傾向があることを示しました。時には十分な理由や警告もなく核兵器の使用を積極的に選択し、さらには「そんな兵器があるのだから使いましょう」といった過激な発言をすることもあり、生死の判断を機械に委託することの大きなリスクを浮き彫りにしている。

AI戦闘機、無人飛行群、自動防衛システムの急速な発展に伴い、「機械に人間の生死を決定させるべきかどうか」をめぐる議論は、技術倫理と国際安全保障の分野で中心的な問題の1つになりつつある。パーマー・ラッキー氏の声明は、戦場の自動化を推進する軍事技術企業の強い意欲を反映しているだけでなく、技術的優位性の追求と人間性の最下位を堅持する国々の間の鋭い矛盾をさらに暴露している。