Meta は最近、新しい AI コンテンツ検出システム「Content Seal」を正式に開始しました。これは、同社の最新の AI 生成モデル (Muse など) によって作成された画像に目に見えない透かしを埋め込み、それによってネチズンが本物のコンテンツとディープフェイクを区別できるようにすることを目的としています。しかし、この新しいシステムのリリースは業界から賞賛を得ることができませんでした。むしろ、その必要性と実用性について広く疑念を抱かせる結果となった。

Content Seal の核となる動作原理は Google の動作原理と似ていると理解されています。シンセIDC2PA のコンテンツ認証情報と同様に、肉眼では見えないトレーサビリティ シグナルが AI で生成されたコンテンツに埋め込まれています。画像がトリミング、圧縮、サイズ変更、またはスクリーンショットされた場合でも、透かしは検出ツールによって認識されます。その機能ロジックは既存の標準と高度に重複していますが、Meta は複数の巨人がサポートする成熟したエコシステムに参加することを選択せず​​、独自に新しい排他的なシステムを作成することを決定しました。

分析では、Content Seal が現段階で多くの明らかな制限を明らかにしていることが指摘されました。まず第一に、ユーザーは現在メタがテストしているテストにのみ合格できます。独自のWebツールテストのため、Meta はまだGoogleはGeminiでそれを行うこの検出機能を主要なチャットボット製品に直接統合します。第 2 に、このウォーターマークは現在、Meta AI アプリケーションおよび Web サイト上の Muse モデルによって生成された画像にのみ適用されます。 Meta の以前の AI モデルをカバーできないだけでなく、生成されたビデオ コンテンツのサポートもまだ開始されていません。

さらに、Meta は、システムの悪意のある悪用を防ぐために、検出ツールに 1 日あたりの使用制限を課しています。これは、クエリ制限を設定していない C2PA 標準とは大きく対照的です。関連するメディア テストでは、トリミングされた画像に直面した場合、Content Seal の検出成功率が低いことも示しています。業界では一般に、生成型 AI の波が世界を席巻する中、Meta は機能が限定され、出遅れたこの自社開発システムを立ち上げたと考えられています。ネットワーク全体の AI の透明性を効果的に向上させることができなかっただけでなく、代わりに主流ユーザーがコンテンツの信頼性を検証するために不必要な障害を追加しました。