最近 TikTok を利用したことがある方は、ロボットのような声のテイラー・スウィフトが視聴者に台所用品の無料セットを約束するなど、非常に疑わしい製品を宣伝する有名人の奇妙な動画に気づいたかもしれません。これらのビデオはすべて、人工知能生成技術を使用して作成されたデマであり、この技術が同意なしに人々の不穏な仮想クローンを作成するためにどのように使用されているかを示す最新の例です。


言うまでもなく、この種のことは多くの有名人を怒らせてきました。現在、米国議会は AI ディープフェイク、特にオンラインやキャンパスで問題となっている偽の有名人の推薦や AI による同意のないヌードに関わるディープフェイクに対抗することを目的とした新しい法案を提出しました。ディープフェイク画像を生成するように設計された Web サイトやアプリの人気が高まっているにもかかわらず、現時点では AI を利用した画像の生成を禁止する包括的な法律はありません。

この新法案は「AI不正行為禁止法」（NoAIFRAUDAct）と呼ばれ、フロリダ州下院議員マリア・エルビラ・サラザール氏とペンシルベニア州下院議員マデリーン・ディーン氏によって提案された。この法案は「肖像権と音声権」の法的定義を確立し、生きているかどうかに関係なく他人を無意識に模倣するための人工知能ディープフェイク画像の使用を事実上禁止する。

この法案は「誰もが自分自身の肖像と声に財産権を有する」と宣言し、人々が奇妙な人工知能ロボットに変えられた最近のいくつかの事件を挙げている。草案では、ジャスティン・ビーバー、バッド・バニー、ドレイク、ザ・ウィークエンドなどのポップスターの声を模倣し、AIが生成した曲をフィーチャーした最近のバイラルビデオに特に言及している。

この法案はまた、AIディープフェイクポルノを特にターゲットにしており、「児童への性的虐待の素材を含む、露骨な性的表現、または親密な画像を含むデジタル記述またはデジタル音声の複製」は法案の危害の定義を満たすと述べている。

この法案は、ドレイクのソウルフルな口パク事件を受けて昨年10月に提出された、エンターテイメントにおける独創性の育成、芸術の育成、および安全性の確保に関する法律（NOFAKESAt）と呼ばれる同様の上院法案の付随法案である。この新法案は、テネシー州議員が提出した「肖像・音声・画像の安全性確保法（ELVISAct）」と呼ばれる別の法案と同じ日に提出された。

これらの法案がセレブの暴動への全体的または部分的な対応であるように見えることを考えると、大きな問題は、実際に、数百万ドルのレコード契約を結んだポップスターだけでなく、一般の人々の知的財産を保護することになるのかどうかである。

ディープフェイクやその他のオンラインハラスメント事件を専門とする弁護士のキャリー・ゴールドバーグ氏はマザーボードに対し、「この法案は、実際には、有名人やレコーディングアーティストが肖像や声に持つ財産権に目を向けて起草された。しかし、我が国の法制度は、有名人の知的財産を非公人の知的財産とは異なる扱いをしている。」と語った。

ゴールドバーグ氏によると、最も一般的な例はパパラッチの写真だという。この法律では、著名人の写真が許可なく撮影され、商業目的で使用された場合、一部の救済措置が認められています。しかし、一般の人々にとって、自分の写真の権利は写真を撮った人にのみ帰属しており、利益以外の理由で自分の画像がコピーされることについてはどうすることもできない――高額でしばしば長期にわたる訴訟に費やすお金がない限り。

一般の人々にとって、自分のイメージが悪用されるとき、それは通常、商業的利益のためではなく、当惑させたり、嫌がらせをしたりするためです。この場合、被害者が訴訟を起こす価値のあるリソースを犯罪者が持っていることはほとんどありません。

新しい法案は、ディープフェイクを防ぐために誰もが自分の声と肖像をコントロールする権利を有すると規定する予定だが、非有名人に対する規定は被害者が被害を受けたことを証明できるかどうかに大きく左右される。具体的には、「ディープフェイク」が「身体的または肉体的危害」を引き起こしたこと、「重度の精神的苦痛」を引き起こしたこと、または露骨な性的性質のものであったことを証明することを意味する。

もちろん、これはすべて、より大きな問題の表面を正常化する試みにすぎません。つまり、テクノロジー企業は、これらのシステムが必然的に引き起こす害に対する強力な緩和策なしに、インターネットから収集したデータを使用して大規模な人工知能システムを構築しています。 ChatGPTの作成者であるOpenAIに対する現在の訴訟で、同社は最近、人工知能モデルをトレーニングするために違法な著作権で保護された素材を使用したとしても、そうせずに人工知能システムを作成することは「不可能」であるため、処罰されるべきではないと主張した。

しかし、OpenAI、Microsoft、Meta などの企業が構築したブラックボックス AI システムの性質は、これらの悪いことが起こることをほぼ保証しています。最近、研究者らは、市場にあるほぼすべての主要な人工知能システムのトレーニングに使用される大規模なデータセットから、児童の性的虐待に関する 3,000 枚以上の画像を発見しました。企業はまた、Google や Bing の画像検索結果にディープフェイク ポルノが見つかるなど、自社の生成 AI システムが違法なコンテンツを確実に除外するよう取り組んでいます。大きな問題の 1 つは、同意のない AI ヌードの作成に特化した中小企業や個人によって作成されたアプリが多数存在し、それらが主要なソーシャル メディア プラットフォームで宣伝され、アプリ ストアで販売されていることです。

最終的に、これらの問題は、これらの AI システムを構築する企業が責任を負う場合にのみ完全に対処できるとゴールドバーグ氏は述べています。 : 「私たちの社会が本当に必要としているのは、システムレベルで人工知能やディープフェイクと闘い、画像を改ざんすることのみを目的として市場に出回っているApp StoreやGoogle Playなどの主流市場で悪意のある製品を追求することです。人々にこれらの製品の使用を指示したり、これらの画像を公開するWebサイトを宣伝しないよう、検索エンジンに圧力をかける必要があります。被害者に簡単なコンテンツ削除サービスプロセスを提供するよう検索エンジンに要求する必要があります。」