要約:
英国警察の上級刑事が、犯罪捜査中に Microsoft の人工知能アシスタント Copilot を不適切に使用した疑いで独立捜査を受けています。この事件により、法執行機関における人工知能の適用の限界と機密データのセキュリティについての懸念が再び高まった。
独立警察行動局 (IOPC) によると、ダービーシャー警察の上級警察官は重大な違法行為の疑いで捜査を受けているという。この捜査は、ダービーシャー警察が内部調査を終えた後、6月23日に自主的に状況報告書を規制当局に提出したことを受け、今年8月に開始された。
調査は、人工知能を使用してスペルや文法をチェックするなど、基本的な事務作業にとどまりません。関連容疑によると、この警察官は Microsoft Copilot を使用して政策決定、リスクの評価と管理に参加し、刑事事件の捜査中に意思決定の理由と根拠を提供するために AI を使用した疑いがあると述べられています。さらに、事件に関係する機密の業務情報や個人データをシステムに入力した疑いも持たれている。
実際、ダービーシャー警察署は、作業効率を向上させるために、早ければ 2025 年 5 月に警察官が Microsoft Copilot を使用することを承認しました。権限の範囲としては、報告書の作成や書類の整理、情報のまとめなどの事務的なことが主になります。ただし、警察はモバイルデータ、機密情報、個人データをAIツールに入力することを許可しないとも明確に規定しています。
独立警察行動局の係長エミリー・バリー氏は、「これらの容疑は重大な性質のものであり、完全かつ独立した捜査の対象となる必要がある。捜査当局は、2025年5月から2026年6月までの警察官の副操縦士使用状況の調査に重点を置き、彼の行動が警察の専門基準に違反していたかどうかを判断する予定である。
現在、警察官は重大な過失の疑いで捜査通知を受け取っているが、事件はまだ決着しておらず捜査が続いている。
この事件は、人工知能が法執行機関の日常業務プロセスに徐々に入り込んでいることも反映しています。これに先立ち、米国の一部の警察署はアクソン社が発売した、身体に装着したカメラの記録に基づいて警察報告書草案を自動的に作成できるシステム「Draft One」の導入を始めている。最終的な内容はまだ警察官による審査と承認が必要だが、AIがもたらす可能性のある誤った情報や自動化ツールへの過度の依存に対する懸念は続いている。
今年も同様の問題が注目を集めています。米国ユタ州で人工知能によって生成された警察の報告書が間違っていた。このシステムは背景の音声コンテンツを誤認し、実際に報告書では警察官が「カエルになった」と主張していた。幸いなことに、レポートが正式に提出される前に、エラーは手動で発見され、修正されました。
同時に、この事件には AI システムへの機密データの入力が含まれており、これも 2023 年にサムスンで発生した事件を彷彿とさせます。当時、一部の従業員が処理のために機密のプログラム コードと会議の内容を ChatGPT に提出したため、生成型人工知能のデータ セキュリティ リスクについて企業間で懸念が広がりました。
ますます多くの公的機関が人工知能アシスタントを導入し始める中、この調査は英国の法執行システムにとって AI 使用の規範を評価する重要な事件となる可能性があります。また、将来の規制政策や警察業務における人工知能の適用限界にも影響を与える可能性があります。
コメント