YouTubeは、スターとそのチームがAI生成コンテンツやディープフェイク動画を特定してプラットフォームから削除できるよう、新しい「らしさ検出」技術をエンターテインメント業界に拡張していると、同社は火曜日のウェブサイト上の発表で明らかにした。
このツールは、YouTube の既存の Content ID システムと同様に機能します。このシステムは、ユーザーが動画をアップロードするときに著作権で保護された素材を自動的に検出し、著作権所有者が動画の削除をリクエストしたり、動画の広告共有に参加したりすることを容易にします。肖像画検出は、シミュレートされた顔を識別することに重点を置き、クリエイターやその他の著名人が許可なくアイデンティティを悪用されることを防ぐことを目的としています。たとえば、有名人の肖像画が不正広告に使用されるなど、近年ますます一般的になっている問題です。
YouTube のテクノロジーは、当初はパイロット プログラムとして昨年、選ばれたクリエイター グループに利用可能になり、その後徐々に拡大されてきました。この春、YouTube は AI ディープフェイクの悪用との戦いを支援するために、対象範囲を政治家、政府関係者、ジャーナリストにまで拡大しました。今回、同社はこのツールを、芸能事務所、アーティストマネジメント会社、それらが代表する有名アーティストなど、エンターテインメント業界の参加者にもさらに拡大すると発表した。 CAA、UTA、WME、Untitled Management など、いくつかのハリウッドの大手エージェンシーが、フィードバックの提供と新しいツールの磨き上げに携わっています。
アーティストが類似性検出ツールを使用するために YouTube チャンネルを持っている必要はないことに注意してください。システムは舞台裏で、プラットフォーム上で AI が生成したコンテンツをスキャンし、登録された参加者の顔情報との一致を検出します。一致するコンテンツが見つかったら、ユーザーは YouTube のプライバシー ポリシーに従って削除リクエストを開始するか、著作権削除リクエストを送信するか、何もアクションを起こさないかを選択できます。ただし、同プラットフォームの規則では一定範囲のパロディや風刺が依然として認められているため、すべての関連動画が削除されるわけではないことも強調した。
YouTubeによると、この技術は将来的にはオーディオの側面もサポートするように拡張される予定で、将来的には、不正なAI合成音声やその他のコンテンツを識別して処理できるようになることが期待されるという。製品の進化に伴い、YouTube は連邦レベルでのより体系的な保護も提唱しており、現在米国議会で議論されている「NO FAKES Act」を支持しています。この法案は、人工知能技術を利用した個人の音声や肖像画の無断転載を規制し、公人や一般ユーザーに対してより明確な法的境界線を設けることを目的としている。
現在、YouTube は、このツールがこれまでに処理した AI ディープフェイク コンテンツ削除リクエストの数を明らかにしていません。しかし、同社は3月に、肖像検出ツールによって引き起こされた削除の数はまだ「非常に少ない」と述べた。 AI が生成するテクノロジーがエンターテインメント業界や広告業界への浸透を深めているため、クリエイター、政治家から映画やテレビのスターに至るまで、ますます多くの著名人が、自分の肖像や声の悪用のリスクに対処するためにプラットフォーム レベルの技術的手段に依存し始めています。