最近、米国メリーランド州ボルチモア郡でとんでもない事件が発生しました。地元のAI銃探知システムが16歳の学生のドリトスコーンフレークバッグを銃器と誤認し、武装警察が出動する事態となった。
事件は10月20日に発生した。ケンウッド高校の生徒、タキ・アレンさんはフットボールの練習を終えたばかりで、友人らと学校の外に滞在していた。突然、複数のパトカーがスピードを上げ、警察が銃を向けた。
アレンさんは回想し、「8台ほどのパトカーが私たちに向かって走ってきた。彼らは銃を構えて私に向かって来て、『地面に落ちろ』と叫んだので、『何が起こっているんだ？』と思った」と当時の恐怖を語った。「彼らは私をひざまずかせ、手を後ろ手に縛られ、手錠をかけられました。それから彼らは私を捜索しましたが、何も見つかりませんでした。」
アレンさんは警察に銃を突きつけられて取り押さえられ、その後警察は警報を鳴らしたAIが傍受した画像を彼に見せた。画像では、彼のポケットの中でくしゃくしゃになったドリトスのバッグがシステムによって銃と誤認されました。
「私はもっぱら『私は死ぬのだろうか？彼らは私を殺すのだろうか？』と考えていました。」彼らは私にその写真を見せて、銃のように見えると言った」とアレンさんは恐怖が消えなかったと語った。
事件を引き起こしたAIシステムは、ボルティモア郡公立学校が昨年導入した技術「オムニラート」によるもので、既存の監視映像をリアルタイムでスキャンし、武器と思われる物体を検知すると直ちに法執行機関に通報する。
アレンはコーンフレークの入った袋を持っており、露出した手と一本の指は銃を持っているように見えました。オムニラートは誤報であることは認めたが、システムは「意図したとおりに機能」し、「迅速な手動検証を通じて安全性を優先」するように設計されていたと主張した。
