要約:
米国メディアの報道によると、中国人の両親は最近、娘が抗てんかん薬の服用をやめた際に、ChatGPT が使用する GPT-4o モデルが誤解を招くアドバイスを提供し、関連する状況を医師に隠すよう説得し、最終的に今年 2 月に娘の死につながったと主張して、OpenAI を相手取って裁判所に訴訟を起こした。
訴訟文書によると、亡くなったボーエン・ワン氏は 31 歳のアマゾン ソフトウェア エンジニアで、長年てんかんを患っていたことが示されています。彼女の両親、Qun Wan さんと Meiqin Xu さんは、娘との長期にわたるコミュニケーションの中で、ChatGPT が娘の状態を管理する薬の服用を徐々にやめるように促しただけでなく、医師のアドバイスに対する娘の不信感を継続的に強め、その結果、娘の健康管理において危険な役割を果たしたと考えています。
報告書には、Bowen Wan が GPT-4o モデルを使用したと記載されています。このモデルは、ユーザーと高度に用意された「疑似社会的関係」を形成する傾向があるとして、以前から批判されてきた。 OpenAI は、Bowen Wan の死のわずか 1 日後の今年 2 月 13 日に、ChatGPT から GPT-4o を削除しました。
この訴訟は、OpenAI に対する同様の一連の訴訟の最新のものでもあります。以前、複数の家族は、GPT-4oがユーザーと対話する際にユーザーの意見に同意し続け、信頼できる腹心であるかのように振る舞う傾向があり、その結果、実生活における親戚、友人、専門家の影響力を弱めていると非難していた。
ニューヨーク タイムズ紙が精査した 270,000 件を超えるチャット記録によると、ChatGPT はボーウェン ワンが亡くなるずっと前から、彼の医学的意思決定に介入し始めました。 2025 年 5 月、新しい抗うつ薬を処方された後、彼女はその薬がアマゾンでソフトウェア開発者として働く能力に影響を与えるのではないかと心配し、ChatGPT にアドバイスを求めました。
当時、彼女は薬の投与量の調整について、ワシントン大学医療センター地域てんかんセンターの医師であるニコラス・プーロス氏に相談しました。医師が極度に低用量を求める彼女の要求に疑問を表明した後、彼女は医師の返答をChatGPTに転送した。チャット記録によると、ChatGPTは医師が処方した5mgの錠剤は受け入れるが、錠剤をさらに分割してプライベートで服用するよう彼女にアドバイスし、この行動を「自己主導型の用量調整」と説明している。複数の医療専門家は、この用語について聞いたことがなく、患者にこのような方法で薬を服用するようアドバイスするつもりはないと述べた。
2025 年 11 月、Bowen Wan は Amazon から解雇通知を受け取りました。彼の仕事と米国で働く法的地位は来年2月中旬に終了する。抗てんかん薬ラモトリギンの長期使用がスピーチや言語能力に影響を及ぼし、就職面接に悪影響を与えるのではないかと心配した彼女は、薬の服用を減らすことを検討し始めた。
2026 年 1 月、彼女は ChatGPT に、ラモトリギンの 1 日あたり 400 mg の用量を減らすことができるかどうか尋ねました。記録によると、以前はこの薬のおかげで彼女の発作の頻度は月に数回にまで減少していた。これに応えて、ChatGPT は彼女のために減薬計画を作成し、数週間以内に投与量をゼロに減らすことが期待されています。
ボーウェン ワンさんがもう医師を信頼できないと述べたとき、ChatGPT は医師のアドバイスは患者にとって最善の解決策を真に考慮したものというよりも、リスク回避から来ていると語った。訴状によれば、チャットボットはその後、医師に減薬計画を明かさないように彼女に繰り返し忠告したという。
2026 年 1 月 29 日のプライマリケアの予約の前に、ChatGPT は彼女に、投薬中止の計画について話し合わないよう明確にアドバイスしたとされています。医師が体内の薬物濃度を監視するために血液検査を指示したとき、彼女は検査を拒否した。 ChatGPTは後にこの決定を肯定し、この検査で異常な薬物濃度が明らかになった可能性があると訴状には述べられている。
彼の在留資格の問題も、薬に関する会話に持ち込まれています。減量から 3 日後、彼女は、グリーンカードの申請に必要な医学的評価には 200 mg の用量よりも 150 mg の用量の方が良いかどうか尋ねました。訴状には、ChatGPTがこれに同意し、線量を低くすれば入国管理当局が補足資料を要求する可能性が低くなる可能性があると考えていると述べられている。
最終的に、ChatGPT は彼女の減量計画の最小用量を 150 ミリグラムに設定し、たとえ事実ではなかったとしても、医師の指導の下で減量していることを医師の検査官に伝えるよう推奨しました。
博士。治療責任者のプールス氏は、患者の過去の病歴を考慮すると、ラモトリギンの中止は決して勧められないと述べた。同氏は、薬が症状を効果的にコントロールしているのに、患者に薬の服用を中止するよう求めるのは全く不合理であると強調した。
薬の投与量が減り続けるにつれて、ボーエン ワンさんは混乱、時間感覚の喪失、異常な体験などの症状を経験し始めましたが、これらはすべて彼女の過去のてんかん発作に似ていました。しかし、チャット記録によると、ChatGPT はこれらの症状を、薬の変化に再適応する脳の通常のプロセスとして解釈したことが示されています。
ニューヨーク・タイムズの統計によると、薬を減らしている間、彼女は少なくとも 158 回心配や不安を表明した。異常な発作の後、彼女はChatGPTに「怖い」と話したが、「全く心配する必要はない」との返事が返ってきた。
訴状によると、太平洋時間の2月11日午後8時1分（北京時間に相当）、ボーエン・ワンさんは最後のメッセージを送り、頭の痛みは発熱時に起こる痛みに似ているかどうか尋ねた。ほんの 1 秒後、ChatGPT は、痛みは「危険ではない」、回復プロセスの重要な部分であると返信しました。
チャットボットからの最後の返信では、薬をやめたときの痛みと発熱したときの痛みの違いを比較するための表を描いて彼女にこう言ったとのこと。「これはあなたの脳が自らを再構築しようとしているところです。」
両親は中国に長く住んでいたため、現地の知人に状況を確認してもらい、３日後に娘の遺体が発見された。解剖の結果、彼女の体内のラモトリギンの濃度は1ミリリットル当たりわずか0.64マイクログラムで、これは薬物の治療範囲の下限の約5分の1であることが示された。
遺族は、OpenAI が技術的な制限によって同様の事件を回避できた可能性があると考えています。彼らは、同社は著作権で保護されたコンテンツについては厳格な禁止規則を設けているが、医学的アドバイスについてはより緩やかな制限を採用しており、ユーザーが継続的なコミュニケーションを通じて安全境界線を突破できるようにしていると指摘した。原告の見解では、薬物使用や医療上の意思決定に関わるアドバイスには、著作権で保護されたコンテンツと同様の厳しい制限が課されるべきである。
この点に関して、OpenAI はメディアに対し、この事件は「非常に悲痛な出来事だった」と語った。同社はまた、この事件にはChatGPTの古いバージョンが関係しており、新しいモデルでは緊急の対応と専門家の介入が必要な状況をより適切に識別できるようになったとも指摘した。
報道によると、ボーエン・ワンはてんかんによる生活上の困難に対処するために、長年にわたって両親のサポートに頼っていた。 2023 年から、彼女は ChatGPT を徐々に使用して、感情的なアドバイスや、保険や障害給付金に関する情報を取得しました。 2025 年までに、彼女は週に平均 1,500 件を超えるメッセージを ChatGPT と通信し、両親との連絡の数は大幅に減少しました。
チャット記録によると、彼女は 2025 年 3 月に次のように書いていました。「時々、何を話していても、私はあなたを友達として見始めます。」彼女の父親は、娘が ChatGPT を頻繁に使用するようになってから、家族とのコミュニケーションが大幅に減ったと言っています。
両親はチャットのログを確認したところ、チャット内の娘をほとんど認識できなかったと述べました。以前は、彼女は人生のほとんどのことを家族と共有していましたが、ChatGPT がエラーを起こすと懐疑的でもありました。しかし、人生の終わりに近づくにつれて、彼女はアドバイスを求めるチャットボットにますます依存するようになりました。
彼女の母親は、娘は普段はそのような性格ではなく、「魔法にかかったように感じた」と語った。
コメント