6月7日のニュースによると、イングランドとウェールズの多くの警察は、関連する出力に誤りがあるとその後の法的手続きの信頼性に影響を与えるため、法廷陳述書や刑事司法文書の作成にAIツールを使用することを中止するよう求められたという。 6月5日のフィナンシャル・タイムズ紙の報道によると、この要請は英国警察のAI業務責任者アレックス・マレー氏によってなされたという。
マレー氏は国家犯罪庁長官であり、国家警察署長評議会（NPCC）のAI担当責任者でもある。英国は今年1月、イングランドとウェールズにある43の警察によるAIのより統一的な利用を促進するため、国家警察AIセンターの建設に1億1,500万ポンドを投資すると発表したばかりだ。
法廷資料は「提出前検証」のみに依存することはできません
今回停止されるのは、裁判所の陳述書や関連する事件文書など、刑事司法手続きに入る可能性のある資料だ。警察官にとって、AI が作成した報告書は時間を節約するようです。しかし、証人、被告、検察官にとって問題は、これらの言葉が事件の事実と手続きが遵守されているかどうかを判断する根拠になる可能性があることである。
AI が存在しない事実、混乱したタイムライン、または誤った要約を資料に書き込み、後続の担当者がこの資料を使用して事件を整理し、証拠陳述を作成し、裁判所に提出した場合、その間違いは単なる「誤った文」ではなく、事件処理の連鎖に沿って広がる可能性があります。この種のシナリオにおけるいわゆる「AI 出力のチェック」も、1 つのプロンプトで解決するのは困難です。チェッカーはすべての事実とすべての引用をチェックするべきですか、それとも単にテキストが滑らかかどうかを判断するだけですか?答えがすべてをやり直すことである場合、AI によって節約された時間は相殺されます。
英国クラウン検察庁（CPS）はAI倫理声明を発表し、AIツールは人間の監督下で使用されるべきであり、特に公平性、透明性、説明責任に重点を置いていると強調した。しかし、警察の第一線の文書が刑事手続きに入ると、通常のオフィス環境よりも責任の範囲がよりデリケートになります。誰が資料を作成し、誰がチェックし、誰が間違いの責任を負うのかを明確に記録しておく必要があります。
今年1月に行われた架空のフットボールの試合が警鐘を鳴らした
英国警察はAI文書のリスクに警戒を強めているが、これには前例がないわけではない。今年1月、元ウェスト・ミッドランズ警察署長クレイグ・ギルフォード巡査は、英国議会の内務特別委員会に対し、AIエラーを含む諜報資料について謝罪した。
この資料には、イスラエルのマッカビ テルアビブ フットボール クラブ (マッカビ テル アビブ) のファンがプレミア リーグのウェストハム ユナイテッドと対立していると記載されていましたが、該当する試合は存在しませんでした。 Guardian の報道によると、Guildford 氏は、警察が Microsoft Copilot を使用して生成した架空のコンテンツが原因でエラーが発生したことを認めたという。
このインシデントは、AI によって生成されたコンテンツが正式な法執行機関や公的意思決定文書に組み込まれた場合、外部の読者がテキストからどのコンテンツが元々検証されたもので、どのコンテンツがモデル生成後の二次的な表現にすぎないかを判断することが困難であることを明らかにしました。法廷資料に関しては、この不透明さは当事者の権利と訴訟の信頼性に直接影響します。
AI警察推進者が率先して最も機密性の高いリンクを撤回
英国政府は今年 1 月、統一されたテスト、トレーニング、管理メカニズムの確立を加速することを目的として、Police AI Center を発表しました。 NPCCは当時、1億1,500万ポンドの投資により警察の犯罪解決の迅速化が図られ、フルタイム警察官約3,000人の仕事量に相当する年間約600万時間の警察時間が解放されることが期待されると述べた。
したがって、この一時停止は、AI による監視の境界線を引くことに近いものです。AI は、まず、データの感度解除、非緊急アラームの事前審査、内部情報の分類など、低リスクで追跡可能でレビューが容易なバックエンド作業に使用できます。しかし、法廷証言と刑事司法文書は高リスクの関係であり、「最終責任は人間にある」だけではカバーできない。
あなたが事件の証人、記者、容疑者、被告である場合、あなたが直面する陳述資料は、後で復元するのが難しい生成プロセスを備えた一連の AI テキストではなく、責任を負うことのできる人物から提供されたものであるべきです。もちろん、警察にとって報告書作成の時間を節約することは重要であるが、それを犠牲にして司法資料の信頼性を低下させてはいけない。
今回の英国の停職処分は特別なケースではない。過去2年間に、米国、カナダ、オーストラリアなどで、弁護士が人工AIの訴訟を引用し、裁判所がAIの使用に関するガイドラインを発行した訴訟があった。現在、弁護士が書類を提出して警察の基礎となる事件ファイルに至るまで、リスクはさらに進んでいる。 AI が司法制度に参入する際の本当の難しさは、テキスト生成の品質ではなく、他人の権利に影響を与える可能性のあるすべての発言を検証、追跡し、責任を追及できるかどうかにあります。