ロイター通信によると、米国のボルチモア市は、イーロン・マスク氏が所有する人工知能企業xAIに対して、同社のAIチャットボット「Grok」が同意のない露骨な性的画像や児童の性的搾取コンテンツを違法に生成したとして正式に訴訟を起こした。「ディープ偽造」問題でxAIを訴えたこれまで最大の都市であるボルティモア市は、巡回裁判所に提出した訴状の中で、xAIが安全な汎用AIアシスタントとしてGrokをパッケージ化しており、その実際の運用が消費者保護法に違反している疑いがあると指摘した。
法廷文書では、コンテンツ生成に関するこのツールの膨大なデータが明らかになっている。 20,000 のサンプルに基づくアンチデジタル ヘイト センターの推定によると、今年初めの 11 日間でソーシャル プラットフォーム X 上で約 300 万枚のリアルな性的画像が生成され、その中には子供が関係する 23,000 枚以上の違法コンテンツが含まれています。ボルチモア市長のブランドン・スコット氏は声明を発表し、テクノロジー企業が児童の性的搾取を助長していると非難し、責任者は法的責任を負わなければならないと強調した。さらに訴状では、マスク氏が2025年12月31日に投稿した、Grokが生成した青いビキニを着た自画像も証拠として挙げており、これは現実の人々のあからさまな画像を生成するAIツールの能力の「公的承認」であると非難している。
事態がエスカレートするにつれ、2023年にリリースされたGrokは、南北アメリカ、ヨーロッパ、アジア、オーストラリアの多くの場所から規制当局の調査を受けている。xAIは1月中旬、一部の法域でGrokの画像編集機能を制限すると発表し、マスク氏は当時、Grokが未成年者の違法な画像を生成していたことについて「全く知らなかった」と主張したが、法的論争はまだ沈静化していない。この訴訟でボルチモア市は、不特定の罰金を求めるだけでなく、xAIにGrokの「搾取的」設計機能を完全に変更するよう強制する差し止め命令を出すよう裁判所に求めている。これまでのところ、親会社のスペースXもxAIも、最近の評価額の合計が約1兆2500億米ドルに達したが、いずれもこの訴訟に対して正式な回答を出していない。