人工知能が生成した児童性的虐待の画像は「最悪の悪夢」となり、インターネットを圧倒する恐れがあるとセキュリティ監視機関が警告した。インターネット監視財団（IWF）は、明らかに英国の法律に違反する、AIが生成した虐待画像を3000件近く発見したと発表した。
英国に拠点を置くこの組織は、虐待被害者の既存の現実の画像がAIモデルに入力され、新しい描写が生成されていると述べた。
同団体は、この技術は「年齢を下げた」有名人の画像を作成するためにも使用され、その後、性的虐待の場面で子供として描かれたと付け加えた。児童性的虐待資料 (CSAM) の他の例には、人工知能ツールを使用して、オンラインで見つかった服を着た子供の「ヌード」画像が含まれます。
国際女性フォーラムは今夏、AIによる虐待の証拠が出始めていると警告したが、最新の報告ではその利用が加速していることが示されていると述べた。 IWFのスージー・ハーグリーブス最高経営責任者（CEO）は、監視団体にとって「最悪の悪夢が現実になった」と述べた。
「今年の初めに、私たちはAI画像が間もなく性的虐待を受けている子供の本物の写真と見分けがつかなくなる可能性があり、そのような画像がさらに多く拡散し始めるかもしれないと警告した」と彼女は語った。 「私たちは今、その段階を過ぎています。ぞっとすることに、犯罪者が実際に虐待された被害者の画像を使って意図的にAIを訓練しているのを目の当たりにしています。過去にレイプされた子供たちが新たなシナリオに組み込まれているのは、どこかの誰かがそれを見たがっているからです。」
国際女性フォーラムは、AIで生成された画像がオンラインで販売されている証拠も確認したと述べた。最新の調査結果は、ダークウェブの児童虐待フォーラムに対する 1 か月にわたる調査に基づいています。フォーラム上の11,108枚の画像を調査し、そのうち2,978枚は児童の性的虐待を描いた英国の法律に違反していた。
AI によって生成された CSAM は、子供の「わいせつな写真または疑似写真」の撮影、配布、所持を犯罪とする 1978 年児童保護法に基づいて違法です。国際女性フォーラムは、発見した違法素材の大部分が児童保護法に違反しており、画像の5分の1以上が、レイプや性的虐待を描写する可能性のあるコンテンツの最も深刻なカテゴリーであるカテゴリーAに分類されたと述べた。
2009 年検死法および司法法では、風刺画や絵など、禁止されている子供の写真以外の画像も犯罪とされています。 IWFは、AIが生成するCSAMの波が法執行機関の注意を逸らし、実際の虐待を発見したり被害者を支援したりすることを懸念している。
「この脅威を制御しなければ、この素材はインターネットを圧倒する可能性があります」とハーグリーブス氏は述べた。
IWFの最高技術責任者であるダン・セクストン氏は、画像生成ツールのStableDiffusion（CSAMの生成に役立つように微調整できる一般公開されているAIモデル）が、フォーラムで議論された唯一のAI製品だと述べた。
「公的に入手可能なソフトウェアである StableDiffusion を使用してコンテンツを作成することについての議論が行われています。」
StableDiffusionを運営する英国の企業であるStabilityAIは、「違法または非倫理的な目的で当社のプラットフォームで悪用することを禁止しており、当社のポリシーにはこれにはCSAMが含まれると明確に記載されている」と述べた。
政府は、成立予定のサイバーセキュリティ法案はAI生成のCSAMを対象とし、ソーシャルメディア企業に対し、それが自社のプラットフォームに表示されないようにすることを義務付けると述べた。