2024年10月、シャオミCEO「雷軍」の吹き替え動画がショートビデオプラットフォームに大量に登場し、さまざまな吹き替え模倣動画やパロディ動画が次々と登場した。実際、これらのビデオの声は雷軍本人のものではなく、AI によって吹き替えられています。なりすまし起業家の雷軍氏から、自分たちの商品を販売するために張文紅博士の音声とビデオを作成する AI まで、AI を使用してビデオを深く合成して詐欺を行う犯罪者さえいます。
ここ 1 年で、AI 深層合成オーディオおよびビデオ侵害の現象がますます深刻になりました。
最近、CCTV ニュースは、AI によって合成された有名人の音声とビデオの混乱を暴露しました。
以前、一部のネットユーザーは、AI によって生成されたアンディ・ラウの音声を使用してトラフィックを獲得していました。アンディ・ラウ映画会社も緊急声明を発表し、アンディ・ラウの声を偽造するAI音声合成技術詐欺に陥らないようにネチズンに注意を喚起した。
CCTV ニュースの調査によると、音声とビデオの AI による深層合成は、一部のショッピング プラットフォームでも実現するのが難しくないことがわかりました。AI 深層合成テクノロジーは、多くのオンライン ストアにとって収益ツールとなっています。有名人の音声とビデオの AI 深層合成をカスタマイズするのにかかる費用はわずか数十元です。
専門家らはこう語った。関連法規では、許可なく他人の情報を深く合成、作成、公開することを禁止することが明確に規定されています。
有名人のビデオを制作するためにディープ AI 合成の注文を受けたオンライン ストアはすでに権利侵害であり、相応の法的責任を負う必要があります。
また、芸能人だけでなく一般人やアニメ映像であっても、本人や著作権者の承諾を得ずにAIを使って音声や映像を合成した場合には、権利侵害と判断される可能性もあり、法的責任を負わなければなりません。