要約:
2026 年 2 月、イラン南部の小さな町ミナブの小学校が、戦争初日に 2 発のトマホーク ミサイルによって攻撃されました。空爆では１５０人以上が死亡し、そのうち少なくとも１２３人は子供だった。国防総省の内部検討文書は、パランティアが開発した人工知能標的システムが悲劇で重要な役割を果たしたことを示している。
捜査当局は、米国中央軍のアナリストが Maven Smart System と呼ばれるシステムをほぼ盲目的に信頼していることを発見しました。
同時に、致命的な誤算を正す可能性がある重要な諜報メモが孤立したシステムに閉じ込められ、誰も気に留めず、空爆計画を策定した人々には決して伝えられませんでした。
回避できた悲劇が、一歩ずつ現実になってきました。
現在、この暴露された調査文書により、AI 支援による軍事的意思決定の境界問題が再び注目を集めています。
三重の崩壊: AI、古い知性、そして壊れた鎖
ブルームバーグが入手した内部文書によると、調査員は 3 つの重複した障害があったと結論付けました。
1 つ目は、AI システムへの過度の依存です。一部のユーザーは、Maven が古いレコードや矛盾した情報に自動的にマークを付けることを期待していますが、システムがなぜそうするのか説明できません。
第二に、諜報データ自体がかなり時代遅れです。ミナブ施設は、古い情報を使用して長い間、イランイスラム革命防衛隊の施設としてカタログ化されてきました。
最終的に、目標を確認し、民間人への事故による負傷を回避する責任を負う人員は大幅に削減されました。 3つの欠落が重なり、最後の悲劇につながった。
3 つのいずれも単独では致命的ではありませんが、同じミサイルの意思決定の過程で同時に発生すると、結果は取り消し不能になります。
Maven システム: 分単位の意思決定の背後にある隠れた懸念
Maven Smart System は「人工知能主導のデータ統合およびターゲティング プラットフォーム」と呼ばれ、インテリジェンスの分析と意思決定を加速するために使用されます。
当初は完了までに数時間かかっていた目標リストにチェックを入れるタスクを、わずか数分に短縮できます。
効率向上の代償として、レビュー プロセスが体系的に圧縮され、手動レビューに費やす時間とスペースがますます少なくなります。
商用衛星画像は実際にこの問題を長い間示してきました。2017 年には、学校のフェンスが隣接する軍事基地から物理的に分離されました。 2018年の画像には、カラフルなフェンス、サッカー場、遊び場の標識がはっきりと捉えられていました。
Palantir は後に、同社は基礎となるデータに対して責任がなく、インテリジェンスの欠陥を特定する責任もないと回答しました。
空爆後、同社は基本的なインテリジェンスを再検査し、手動レビューでは見逃していた可能性のある矛盾や不正確な点にフラグを立てるための新しい機能をシステムに追加しました。同様の異常も発見されているという。
ただ、これはすべて遅すぎたのです。
当時、最前線に配置されていたアナリストにとって、システムによって与えられた判断は、相互検証が必要な参考情報ではなく、既製の答えとみなされることがよくありました。
忘れられたメモ: 届かなかったアラート
2019 年の時点で、アナリストはミナブの施設の変化に気づき、それを文書化していました。
ただし、この記録は、主要な軍事情報データベースに接続されていないシステムに保存され、情報の島として機能します。
それは、送られなかった手紙のように、最終的に空襲計画を策定した人々に渡されることはありませんでした。
さらに憂慮すべきことは、目標の確認と民間人への偶発的負傷の回避を担当する専門チームの数が近年約 90% 減少していることです。
中央軍の関連チームはかつて 10 人から 1 人に減らされ、その結果、ミサイル発射前にこの施設の最終点検を行う者がいなくなりました。
技術的なエラーは表面的なものにすぎません。本当の抜け穴は、人間の配置とプロセス設計に埋もれています。
最初にチェックされるべきだった記録が、システムの隙間で数年間ひっそりと眠っていました。
責任の難題: 戦争犯罪の特徴付けと遅れた答え
国連の独立国際調査チームは最近、米国には「無差別攻撃」という戦争犯罪を犯したと認定される合理的な根拠があると結論づけた。
報告書は、米国が「学校が軍事目標かどうかを検証するためのあらゆる実行可能な措置を講じなかった」と指摘した。この義務違反は単なる過失を超えたものでした。
これに対し、国防総省報道官は「米国は民間人を標的にしていない」と述べたが、国連報告書についてはコメントを控えた。
今年 3 月、米国下院の 120 人以上の民主党議員が国防長官に書簡を送り、この誤審における Maven やその他の AI ツールの具体的な役割について質問しました。
国防総省は調査が進行中であるとして、まだ公式の回答を出していない。
この事件は、より広範な傾向を反映しています。軍と法執行機関は AI ツールへの依存を強めていますが、照合検証と説明責任のメカニズムが欠けています。
本当の危険はアルゴリズムそのものではなく、機械による結論を検証せずに受け入れる人間の習慣かもしれません。
関連記事:
米軍は、AI の誤った判断によってもたらされた誤った情報により中国船舶を迎撃し検査する準備をし、国際紛争を引き起こしそうになった
コメント