メタ社は、世界中で選挙が集中する中、今後数カ月以内にフェイスブック、インスタグラム、スレッドにアップロードされたAI生成写真に注釈を付け始める予定だ。同社はまた、現実のビデオや音声が人工知能によって生成されたものであるかどうかを明らかにしないユーザーに対する罰則も開始する予定だ。
メタ社のグローバル・アフェアーズ担当社長ニック・クレッグ氏はインタビューで、人工知能が生成するメディアの真実と虚偽の区別がますます困難になる中、これらの措置はテクノロジー業界を「奨励する」ことを目的としていると述べた。ホワイトハウスは企業に対し、AIが生成したコンテンツに透かしを入れるよう強く求めている。一方、クレッグ氏は、メタデータが合成メディアの作成における人工知能の役割を曖昧にするために加工されている場合でも、メタ社は合成メディアを検出するツールを開発していると述べた。
Meta はすでに、独自の ImagineAI ジェネレーターを使用して生成された画像に「Imagineed with AI」ウォーターマークを適用していますが、同社は今後、Google、OpenAI、Microsoft、Adobe、Midjourney、Shutterstock のツールを使用して生成された AI 写真にも同じウォーターマークを適用し始める予定です。クレッグ氏は、AIが生成したビデオとオーディオを識別するための標準の確立において、業界は他の業界に大きく遅れをとっていると述べた。 Meta は、この種のメディアがどのように欺瞞に利用されるかについて引き続き厳重な警戒を続けていますが、同社だけですべてを把握することはできません。
同氏は、「ビデオや音声コンテンツが選挙に向けた重要な政治問題に関して国民を欺くように設計されていると懸念する人々に対しては、引き続き厳重な警戒を続ける。どんなに早く発見され、すぐにレッテルを貼られたとしても、依然として私たちがチェーンから外れていると不可解に非難される可能性はあると思うか？はい、可能性は非常に低いとしても、その可能性はあると思います。」と述べた。
Meta は、既存のコンテンツの信頼性に関する取り組みを構築するために、Partnership for Artificial Intelligence などの組織と協力してきました。 Adobe は最近、コンテンツの出所情報を画像メタデータに組み込むコンテンツ認証システムをリリースしました。画像用の SynthID ウォーターマークのベータ版をリリースした後、Google はそれを音声ファイルにも拡張しました。
クレッグ氏によると、メタは間もなく、人工知能を使って制作された写実的なビデオや音声を含む投稿を公開するようユーザーに求め始めるという。ユーザーが開示しない場合、「警告から問題のある投稿の削除に至るまでの罰則が科せられる」と同氏は述べた。
AIによって生成された政治家によるバイラル投稿の例はすでに数多くあるが、クレッグ氏は選挙の年にこの現象がメタのプラットフォームを乗っ取る可能性を過小評価していた。 「完全に合成された、政治的に重要なビデオや音声が近いうちに現れるとは思えない」と同氏は語った。 「そうなるとは思えないけどね。」
同氏は、Meta はコミュニティ標準に合わせて訓練された大規模言語モデル (LLM) の使用のテストを社内で開始しており、これが数万人の人間のレビュー担当者に効率的な「トリアージ メカニズム」を提供すると説明した。 「これは、人間の査読者に報告されているコンテンツが実際に人間の判断を必要とする類のエッジケースであることを確認するための、非常に効果的かつかなり正確な方法のようです」と同氏は述べた。