人工知能に関する懸念は、多くの場合、誤った情報やテクノロジーが人間の制御から逃れる可能性などの問題を中心に展開されます。しかし、おそらく今日、より現実的な懸念は、政府が AI をどのように活用しているか、そしてその欠点に対する政府の組織的理解 (または理解の欠如) です。たとえば英国政府は、性急で危険な可能性があると考えられるペースでこの技術を導入したようだ。
ガーディアン紙によると、英国の複数の政府機関が一般の人々の日常生活に大きな影響を与えるために人工知能を利用し始めているという。このテクノロジーは現在、逮捕から結婚許可、生活保護の支払いに至るまで、さまざまな手続きで役割を果たしています。
人工知能が広く議論される傾向になる前から、警察による顔認識システムの使用については物議を醸していました。批評家たちは、特に肌の色が濃い被写体を分析する場合、その潜在的な不正確さについて長い間警告してきました。この不正確さにより、過去には不当な拘禁さえも引き起こされました。これらの欠点を認識しているにもかかわらず、ロンドン警視庁は顔認識を使用し続けており、テクノロジーに損害を与える可能性のある修正を加えています。
英国国立物理研究所によると、システムは通常、デフォルト設定で低いエラー率を維持しているという。しかし、警視庁が容疑者をより迅速に特定するために感度を下げた場合、誤報がさらに増えることになる。その結果、黒人に対するシステムの精度は低くなり、白人に対する精度よりも 5 倍低くなります。
さらに、政府が給付金や結婚許可証を承認するために使用する AI ベースのツールは、特定の国からの申請者を差別する傾向があることが示されています。ある国会議員は、近年、給付金が不可解にも停止され、個人が立ち退きや極度の貧困の危機に瀕している例が数多くあることを強調した。根本的な問題として疑われているのは、人工知能に部分的に依存している、給付金詐欺を検出するための労働年金省（DWP）のシステムだ。
不正行為の実質的な証拠がないにもかかわらず、このツールはブルガリア国民に不当にフラグを立てました。 DWPは、この制度では国籍は考慮されていないと主張している。しかし、彼らは AI の内部の仕組みを完全に把握していないことを認めており、システムのバイアス制御能力には限界があることを理解しており、悪意のある者がシステムを操作する可能性があるのではないかと懸念しています。
同様に、内務省は偽装結婚を特定するために設計された AI を活用したツールという課題に直面しています。このシステムにより結婚許可証の承認プロセスが合理化された一方で、内部審査では特にギリシャ、アルバニア、ブルガリア、ルーマニアからの申請者に多数の誤検知があったことが判明した。
政府による AI の導入には他にも見落としがある可能性がありますが、関連部門からの透明性のあるデータがなければ、その見落としを特定することは困難です。
人工知能の限界についての誤解により、他の政府機関や法的機関でも重大な事件が発生しています。今年初め、米国の弁護士が ChatGPT を使用して連邦裁判所に提起された訴訟を引用しようとしたが、そのすべてがチャットボットによってでっち上げられたことが判明した。これらの事例は、AI の本当のリスクがテクノロジーそのものによるものではなく、人間の誤用に起因する可能性があることをますます証明しています。