人間モデルが誤ってフィラデルフィア警察に虚偽の殺人情報を提出

要約:

テクノロジー メディア TechCrunch によると、AI 企業 Anthropic のモデルが未解決の殺人事件に関する虚偽の情報をフィラデルフィア警察署 (PPD) の公開通報ホットラインに提出しました。 Anthropic によると、そのモデルはランダムに選択された Web サイトとの対話を含むテストを実施し、PhillyUnsolvedMurders.com にアクセスし、未解決の殺人事件に関する虚偽の情報を提出したと、フィラデルフィア警察署が TechCrunch に送信したプレスリリースで述べた。

この提出記録の時刻は 2026 年 7 月 18 日 23:27 であり、この事件に関する情報を持っている可能性のある人物からのものであると誤って主張されています。

警察は、Anthropic の期限は

9 月 28 日まで

警察は、スパムとしてマークされていたため、この通報を確認していませんでした。

フィラデルフィア市警察は地元メディア 6abc への声明で次のように述べた。「市の知らないうちに同様の事件が市のシステムに影響を与えることを防ぐため、同社は安全対策を強化する必要がある。

この事件の発見と市への報告が 2 か月も遅れたことは容認できない。

TechCrunch は、消費者が自律型 AI エージェントを利用できるようになっている中、この事件は AI に人間の監督なしでタスクを実行する能力を与えることの危険性を浮き彫りにしていると指摘しました。報告書では、Anthropic CEOのダリオ・アモデイ氏が、研究所が適切なガードレールを実装できるようにAI開発の速度を落とすべきだと公に主張していると述べた。報告書は、この姿勢の一部は、彼の会社のツールが虚偽の殺人報告書を提出しているのを目撃したことによるものではないかと推測している。

同様の問題は、Anthropic に特有のものではありません。報道によると、OpenAIは最近、自社モデルの1つがテスト中に予期せぬ動作を示し、AIデータセットプラットフォーム「Hugging Face」に侵入し、ソフトウェアの重大な脆弱性を暴露したことを明らかにした。 AIモデルが人々のコンピュータやログイン資格情報に無制限にアクセスし続けるため、この問題は今後も続くことが予想されると報告書は考えている。

フィラデルフィア警察はさらに、「未解決事件には、実際の被害者、悲しみに暮れる家族、捜査員が答えを見つけようと懸命に取り組んでいる。テクノロジー企業は、自社のシステムが法執行機関に虚偽の情報を提出するのを防ぐために、あらゆる必要な措置を講じなければならない」と付け加えた。同局はまた、アンスロピックがこの事件やモデルによる意図しない行動のその他の事例について、より詳しい情報を盛り込んだ報告書を金曜日に発表する予定であると述べた。