今日、CCTV ニュースは AI による音声クローンの混乱を暴露しました。とあるソーシャルプラットフォーム上で、ブロガーは AI を使用してオリンピックチャンピオンのクアン・ホンチャンの声を偽造し、地元の卵を販売しました。同時に、孫穎莎と王Chuqinの声も「クローン」され、「Chanbaojia Local Egg」を大々的に宣伝するために使用されました。
AIによって偽造された「クアンホンチャン」さんは、商品を持ってきた動画の中で、「私はあなたのチャンバオです。今日はあなたの助けが必要です。チャンメイは母親を助け、家族の生活をより良くしたいと考えています。同時に、彼女は故郷の地元の卵をファンに分けて試してみます。今日、彼女はみんなの福利厚生として母親に故郷の地元の卵300個を持ち出してもらいます。」と述べた。
コメント欄には、多くのネチズンがこれをオリンピックチャンピオン本人だと勘違いし、購入注文をしていることが示された。
さらに、ブロガーたちは俳優ジンドンらの声を「クローン」して、24時間生放送の音声放送を行っている。
報告書によると、記者の調査により次のことが判明した。オンライン プラットフォームでは、AI クローン サウンドに関する多数のチュートリアルとソフトウェア ダウンロード情報を簡単に見つけることができます。
販売者の中には、1 分間の素材があれば、誰の声でも簡単に「クローン」できるとさえ言った人もいます。
AI生成コンテンツの使用をさらに標準化し、ユーザーが仮想コンテンツをより適切に識別できるようにするために、中国サイバースペース局と他の4つの部門が共同で「人工知能生成合成コンテンツに対するラベリング措置」（以下「ラベリング措置」）を発行し、2025年9月1日に正式に施行される予定であることがわかった。
「識別措置」では、サービスプロバイダーがテキスト、音声、写真、ビデオ、仮想シーンなどの生成された合成コンテンツに明示的な識別を追加する必要があることを明確にしています。生成された合成コンテンツのダウンロード、コピー、エクスポートなどの機能を提供する場合は、要件を満たす明示的な識別情報がファイルに含まれていることを確認する必要があります。暗黙的な識別情報を、合成コンテンツを生成するファイルのメタデータに追加する必要があります。