最近、カナダのバンクーバー警察は、コマーシャル・ブロードウェイ地区での作戦の結果を示すために、麻薬捜査の一連の写真をソーシャルメディアに投稿した。しかし、その写真が「AIで作られた」というレッテルを貼られたことで世論の渦に陥った。この事件はすぐに、警察が「記録を美化する」ために生成型人工知能を使用しているのではないかという国民の疑問を引き起こし、「AIの失策」の典型的な事例として批判された。
この一連の写真はもともと警察の報告書に協力するために使用されたもので、バンクーバー警察が生活保護週間中にコマーシャル・ブロードウェイ地区での麻薬密売と街頭迷惑行為のターゲットを「大きく前進させ」、24時間以内に複数人を逮捕したことを強調したと報じられている。しかし、写真には明らかな「AIで作成」のマークがあるだけでなく、現金の額面のマークが間違っているなど、細かい問題もある。たとえば、CAD 50 の紙幣の一部が CAD 20 と書かれており、写真の信頼性や取り扱いに対する強い不信感を引き起こしました。
批判がエスカレートし続ける中、バンクーバー警察はまず、事件関係者の名前を編集するために確かに「ソフトウェア」を使用したと述べ、AIの使用を単なるプライバシー対策として分類しようとしたと述べた。しかし、多くのネチズンやメディアは、全体的な視覚効果とテキストの注釈から判断すると、この画像は明らかに「名前を汚す」以上に大幅に変更されており、AI ツールを通じてライブショットを再生成または再構成しているようなものであると指摘しました。
世論の高まりを受け、警察はその後、「AIで作られた」という文言が書かれた元の写真を削除し、新しい写真に差し替えた。新しいバージョンではAIマークが表示されなくなりました。それにもかかわらず、「新旧の写真のどちらが本当の現場記録なのか」については、国民の懐疑的な見方は依然として強い。ソーシャルプラットフォーム上の一部の人々は、警察が最初の不適切な行為を隠蔽するために、いわゆる「本物の写真」と以前の「AIジャンクコンテンツ」を比較しているのではないかと直接質問した。
この事件により、多くのテクノロジーやメディアのコメントにより、バンクーバー警察は「人工的にパフォーマンスを向上させるために AI スパム コンテンツに依存している」組織のリストに含まれることにもなりました。一部のアナリストは、法執行機関の信頼性は提示された証拠の信頼性に大きく依存していると指摘している。事件に関与した品物の写真ですらAIによる生成や過剰修整の疑いがあるとの議論が起これば、行動報告書に対する国民の信頼が低下することは避けられない。
報告書はまた、これが孤立したケースではないことにも言及した。企業とマーケティング業界は、コストを削減して生産量を増加させることを期待して、AI コンテンツ生成ツールへの投資を共同で増やしています。しかし、以前の関連調査によると、この種の AI 生成コンテンツに対して肯定的な態度を表明したのは、調査対象となった消費者の約 26% のみでした。主流のユーザーは、「AI スパム コンテンツ」に対する許容度が高くなく、代わりに透明性と信頼性に対してより厳しい要件を持っています。
バンクーバー警察のこの「ひっくり返った」事件では、最初に「AIで作られた」マークを削除できなかったことが引き金となり、生成AIの使用における警察当局の技術的および規制上の欠陥も露呈した。現在の世論は一般に、特に法執行機関や公権力に関連する生々しいコンテンツについて、明確なルールや公的指示がない中で、AI で生成された画像や大幅にレタッチされた画像がランダムに混在し続けると、必然的に公式情報に対する国民の疑惑を高めることになると考えています。