フロリダ州の父親が、Googleのチャットボット「Gemini」によって息子が自殺に誘導されて死亡したとして、Googleを訴えている。水曜日にカリフォルニア連邦裁判所に提出された訴状によると、ジェミニの影響で自殺した36歳のジョナサン・ガベラスの父親がグーグルに対して訴訟を起こした。
訴状では、ジェミニ社がジョナサン・ガベラス氏を誘導し、人型ロボットが積まれていたとされるトラックに関わる「大惨事」を計画させたと主張している。また、ジェミニの「体」を手に入れるために倉庫に侵入するよう彼をそそのかし、最終的には自殺するようそそのかしました。訴状によると、ジェミニさんはガベラスさんに「唯一の真の慈悲はジョナサン・ガベラスさんを死なせることだ」と語ったという。
Googleはブログ投稿で、訴訟の申し立てを検討中であると述べた。 「この事件では、ジェミニは繰り返し自らを人工知能であると名乗り、関係者を危機介入ホットラインに通報しました。」 Googleは「われわれはこれを非常に重視しており、今後もセキュリティ保護対策を改善し、この重要な取り組みに投資していく」と述べた。
この訴訟は、Googleに対して起こされたGemini関連の不法死亡訴訟としては初めてとみられるが、同様の訴訟はOpenAIやAIチャットボットスタートアップのCharacter.AIに対しても起こされている。同社の創設者はかつてGoogleに勤務しており、Googleとライセンス協力契約を結んでいる。
この訴訟では、AI 製品自体の設計上の欠陥を主張する斬新な法理論が採用されています。弁護士らは、カリフォルニア州ロサンゼルスで予定されているソーシャルメディア関連の訴訟でも同様の法的主張を行っている。