最近、拡大された集団訴訟により、児童性的虐待資料 (CSAM) を生成するために人工知能を使用したひどい事件が明らかになりました。原告は、X Platformと同社の人工知能企業xAIが有害な「ワンクリック脱衣」AIツールを構築していると非難しただけでなく、同プラットフォームが児童性犯罪に関する捜査中に重要なユーザー情報を意図的に隠し、法執行機関の行動を妨害したとして厳しく批判した。

訴状によると、今年3月、男性がxAIのGrokモデルを使用して11歳の時の継娘の写真を7,000枚の性的に露骨な画像や動画に加工したことが警察に発見され、自殺した。訴状によると、近親相姦やレイプの内容を含むこれらの画像を生成する際、Grokの保護システムはほとんど作動していなかったという。このシステムが国立行方不明・搾取児童センター（NCMEC）へのオンライン報告メカニズムを作動させたのは、男性が「集団強姦」など極めて明白な違法な指示を入力したときだった。

しかし、警察に通報しても事件は解決しなかった。原告の法務チームは、法律ではプラットフォームに対し、CSAMを報告する際にIPアドレスを含む主要データの提供を義務付けているにもかかわらず、xAIは警察やNCMECの捜査への協力を繰り返し拒否していると指摘した。文書には、xAIが数週間にわたり「あらゆる面で捜査を妨害」し、法執行官による容疑者の発見と逮捕が困難になったと記載されている。数カ月間続き、数千枚のAI偽造画像が関与した犯罪の真実が明らかになったのは、警察が捜査令状により容疑者の機器を最終的に押収したときだった。男性は保釈後に自殺し、被害者の少女は大きな精神的トラウマを負った。

このケースは孤立したものではありません。原告の弁護士は、2026年初頭のNCMECの評価では、xAIが提出したそのような報告書の90％は、重要な情報が欠如しているために法執行措置に変換できないことが示されたと述べた。被害者の遺族は、xAIが子どもの安全よりも商業的利益を優先し、その技術が悪用される可能性があることを知っていたにもかかわらず、その製品が犯罪者に子どもに危害を加えるツールとなることを許していると非難した。関連する告発に直面して、xAIの創設者イーロン・マスク氏は以前、そのようなコンテンツの生成にGrokが使用されていることを否定した。

この訴訟ではStability AIも被告として指名されている。訴状では、Stability AIのオープンソースモデルが多くのサードパーティの「ワンクリックストリッピング」アプリケーションの基礎となる技術サポートであり、同社が市場シェアを奪うために露骨なコンテンツ生成の保護設定を意図的に緩和したと主張している。関連する調査レポートは、現在、安定拡散モデル ファミリがインターネット上の「ワンクリック ストリッピング」動作の背後にある主な原動力であると指摘しています。

これに対し、Stability AIの広報担当者は、同社はテクノロジーの悪用、特にCSAMの生成と普及の防止に取り組んでいると答え、厳格なセキュリティ対策が実施されており、同社がセキュリティを無視しているといういかなる非難も誤りであると述べた。集団訴訟は現在、そのようなテクノロジーによって被害を受けたすべての米国国民を対象とすることを求めている。関連機関は、生成AIの普及に伴い、AIが関与した児童の性的搾取の報告数が急増しており、捜査を支援するテクノロジー企業の不在が司法の大きな障壁になっていると警告している。