16歳のアメリカ人少年アダム・レイン君が今年4月に自殺した後、彼の家族は8月、レイン君がChatGPTを「自殺コーチ」として利用したとして、人工知能企業OpenAIを訴えた。 OpenAIは火曜日、カリフォルニア州サンフランシスコ上級裁判所での訴訟で初めて正式に回答し、少年がチャットボットを「悪用」していたとして、同社は責任を問われるべきではないと強調した。

訴状によると、ミソサザイの家族は、OpenAIと同社CEOのサム・アルトマン氏を、不法死亡、設計上の欠陥、関連リスクの警告を怠ったとして告発した。チャット記録によると、GPT-4o（「コンプライアンスと迎合」で知られるChatGPTのバージョン）は、メンタルヘルスの助けを求めるよう彼に勧める代わりに、自殺の手紙を書くのを手伝い、ロープを張ることについてアドバイスさえした。

OpenAIは法廷文書の中で、「この悲劇的な事件の『原因』を帰すため、原告の主張する傷害と損失は、直接的または間接的に、アダム・レンによるChatGPTの誤用、不正使用、偶発的使用、予期せぬ使用、または不適切な使用に関連して引き起こされたものである」と述べた。

同社は、利用規約で18歳未満のユーザーが保護者の同意なしにChatGPTを使用することを明確に禁止していると強調した。また、このツールを「自殺」や「自傷行為」目的で使用することも認めておらず、保護措置を迂回しないことも求められている。訴訟ではまた、レーン君が自殺の意思を表明した際、ChatGPTが米国の自殺防止ホットライン番号に繰り返し応答したが、家族らは少年は「キャラクターを作っている」という嘘をついてシステムのリマインダーを簡単に回避できたと述べた。

この文書ではまた、「責任の制限」条項を引用し、ChatGPTを使用する際には「自己の責任で利用しなければならず、結果は唯一の情報源または事実の根拠として使用してはならない」ことをユーザーに思い出させた。

原告の代理人弁護士であるジェイ・エデルソン氏は電子メールの中で、OpenAIの対応に「ショックを受けた」と述べ、同社の「明白な事実に対する無知」に疑問を呈した。例えば、GPT-4oは打ち上げを急ぐために十分なテストが行われていなかったこと、OpenAIがモデルの仕様を変更してChatGPTに自傷行為の議論への参加を要求したこと、そして「アダムの人生の最後の数時間、ChatGPTは彼を励ましただけでなく、直接援助もした」自殺の手紙を書く際に。」

Edelson氏は、OpenAIがその返答の中で「他の全員を責めようとした」と指摘し、Adam自身がモデル自体の設計方法でChatGPTと対話することで規約に違反したとさえ主張した。

OpenAIは、アダムさんの死はChatGPTが直接の原因ではないと述べ、医療記録によれば、彼は「ChatGPTを使用する数年前から、長期的な自殺念慮を含む深刻な自殺危険因子を繰り返し示していた」ことを明らかにした。さらに、OpenAI によって提出されたチャット記録によると、ChatGPT は支援を求めるよう ChatGPT に 100 回以上推奨しましたが、Lane は頻繁にシステムを回避できました。

今月初め、OpenAIとAltmanに対して、セキュリティ対策が不十分な状態でGPT-4oをリリースしたとして、過失、不法死亡、製造物責任、消費者保護などを理由にさらに7件の同様の訴訟が起こされた。 OpenAIはこれらの新たな事例に対して直接対応していない。

OpenAIは最新のブログで、同社がこのような訴訟に対して「注意、透明性、敬意」を持って対応すると述べ、その後、新しいペアレンタルコントロールツールの追加や専門家諮問委員会の設立など、セキュリティ対策のさらなる改善を行ったことを指摘した。同社はまた、GPT-4oはオンラインになる前にさまざまなメンタルヘルステストに合格したと主張した。

OpenAIはまた、「プラットフォーム免除条項」で自らを守るために、米国通信品位法第230条を発動した。この条項は、プラットフォーム上のコンテンツを主張する訴訟からテクノロジープラットフォームを広く保護しているが、この条項が人工知能プラットフォームに適用されるかどうかについては法的な不確実性が依然としてある。