最近、アメリカ・ミシシッピ州の連邦裁判所でとんでもない茶番劇が上演され、裁判官が激怒した。これはもともと通常のサービス料契約紛争事件でした。しかし、原告と被告の双方を代表する弁護士4人が人工知能に頼って法的文書を作成し、その文書にはAIによって捏造された虚偽の判例が埋め尽くされていた。
公判中、裁判官は文書に引用された判例を確認した際に異常を発見した。多くの事件は正式な法的データベースに記録されていませんでした。
徹底的な調査の結果、次のような真実が明らかになりました。双方の弁護士はAIツールを使用して文書作成を完了します。これらの存在しない前例はすべて、典型的な AI の「幻想」によって引き起こされます。
公聴会では弁護士４人が違反を認めた。弁護士の一人は、AIを直接使用して検証もせずに完全な文書を作成し、AIの幻想を理解していないという理由で弁護した。彼女は以前にも同様の問題について警告を受けていたが、それでも独自の道を歩んだ。弁護士が使用したAIツールは現地の法律に適していませんでした。他の2人の弁護士は同僚から渡されたAI文書に直接署名し、内容を確認することなく裁判所に提出した。
最終的に裁判所は厳しい刑罰を科した。弁護士４人全員が事件の代理人資格を剥奪された。 AIを直接利用して文書を作成した2人の弁護士は、2年間の出廷禁止と高額の罰金を科された。残りの2人にも罰金が科せられ、関連する違反行為は地元の弁護士会に報告された。。
実際、弁護士がAIを悪用して判例を捏造するのは新しいことではない。 2023年にニューヨークで最初の典型的な事件が摘発されて以来、同様の事件は年々増加している。今年4月の時点で世界中で関連記録が1100件以上あり、各国の裁判所による罰則も重くなっている。
