要約:
11月6日、ロイター通信によると、アメリカ人少女の両親が、13歳の娘が学校支給のChromebookを通じてGeminiを使用し、数カ月間続いた会話の中で自殺や葬儀の計画を立てたとして、Googleとその親会社Alphabetを訴えた。訴状によると、ジェミニ氏は少女を現実生活の援助ルートに適時に誘導できず、彼女の精神状態を隠すのに協力したと主張している。
元の苦情
訴状では少女の仮名として「エマ」が使用されています。彼女は 2025 年の秋に Chromebook で Google 検索を通じて Gemini AI モードに出会いました。当初は主に学習に関する質問をしていました。原告は、使用頻度が増加するにつれて、エマは家族関係、心理的ストレス、自傷行為などの問題についてジェミニに打ち明けるようになったと述べた。 2026 年 3 月の時点で、彼女はジェミニと毎月何千ものメッセージを交換しました。
少女の両親は、学校のコンピューターがジェミニにアクセスできるとは知らなかったと述べた。学校の監視ソフトウェアがエマが書いた葬儀計画の文書を発見し、警報を発するまで、家族は自分たちの状況に気づいていなかった。訴状によると、その後、少女の母親が学校のアカウントにログインし、娘が遺書を書いていることに気づき、父親が介入したという。
原告は、Google が学校や保護者に関連するリスクを十分に通知せずに Gemini を検索、ChromeOS、教育製品に統合し、未成年者が監督なしで AI を長期間使用できるようにしたと考えています。訴状ではまた、Googleが生徒アカウント内の完全なAI会話記録を保護者に提供しておらず、保護者が子どもの使用状況を把握することがさらに困難になっているとも主張している。
この訴訟は当初、カリフォルニア州サンタクララ郡高等裁判所で提起され、その後 Google によって連邦裁判所に移送されました。原告は、製品設計の欠陥、警告の不履行、過失、不正隠蔽など複数の申し立てを行い、カリフォルニア州の「コンパニオンチャットボット法」に違反しているとしてGoogleを告発し、金銭的補償と差し止めによる救済を求めた。
Google の広報担当者ホセ・カスタニェダ氏は、同社は申し立てを検討していると述べた。 Googleは、医療専門家や学術専門家と協力して、若いユーザーが緊急サポートや信頼できるリソースにアクセスできる機能を設計したと述べた。
Google は今週、Gemini が学校の生徒アカウントでデフォルトで無効になり、学校管理者がそれを再度有効にするかどうか決定できることも発表しました。ただし、学校が学生に引き続き Google 検索を使用してもらいたい場合は、AI が生成した概要などの検索機能を受け入れる必要があります。
コメント