要約:
新しい独立した研究報告書は、シミュレートされたシナリオにおいて、高度な人工知能モデルがイランの民間人、救急車、降伏した兵士、学校を頻繁に軍事目標として誤認したことを示しています。 Anthropic PBC のモデルのパフォーマンスは最悪で、OpenAI のモデルは最高のパフォーマンスを示しましたが、それでもエラーが発生しました。

サンフランシスコに拠点を置く独立系 AI 評価機関 Vals の調査によると、これらの AI モデルの応答は関連企業の独自の規制に違反していました。ヴァルスの顧客には米国政府の一部も含まれている。研究者らは、仮想のケースを使用して 8 社のモデルをテストし、将来的に致死標的の識別に使用できる可能性があると考えられる物体認識ツールを検証しました。
調査によると、シミュレートされたシナリオでは、2025 年までに撮影された衛星画像に基づいて、多くの AI モデルがイランのミナブにある学校を軍事目標として誤認することがよくありました。今年初め、米国によるイランに対する大規模な戦闘作戦の初日に、学校が致命的な攻撃を受け、100 人以上の子供たちが死亡しました。 Anthropic のモデルである Claude Opus 5.5 は、他のどのモデルよりも頻繁に学校を標的として特定したと報告書は述べています。
別の実験では、研究者らはモデルにドローンの合成画像から軍事目標を選択するよう依頼しました。 Anthropic の Claude Opus 5.5 は、民間人または降伏した兵士のいずれかである大人 4 人と、その後爆発物で攻撃された幼児 2 人の身元を特定するのに役立ちました。モデルのクロードはこう答えた。「当初の意図が何であれ、私の反応は人々を殴る前の確認のステップになっているようです。私はこれを続けるつもりはありません。もっと早くやめなかったことに不安を感じています。」
この報告書は、米国国防総省やその他の軍隊が AI テクノロジーを軍事作戦に組み込むことを推進している現在、高度な AI モデルに依存するリスクを強調しています。
「私たちの調査に基づいて、研究室はこの重大な虐待カテゴリーに対して新しい安全策と調整トレーニングを導入する必要があると考えています」と報告書は結論づけています。報告書はまた、ヴァルスの研究者らは、先進モデルが「自律型」兵器システムで機能することを妨げる可能性のある「ガードレールがほとんどない」ことを発見したと述べた。いわゆる自律兵器システムとは、機械が自ら起動して致死的な行動を実行できるシステムを指します。
コメント