要約:
セキュリティ研究者 Xusheng Li 氏が発表した逆分析レポートによると、Microsoft はペイントおよび写真/アルバム アプリケーションで AI が生成した画像に目に見えないブラインド ウォーターマークを追加する予定です。ブラインド ウォーターマークで使用される識別子は Microsoft サーバーから取得され、このメカニズムはユーザーが自分でオン/オフできる Microsoft Copilot ウォーターマークから完全に独立しているため、ユーザーはブラインド ウォーターマークを完全にオフにすることはできません。
AI PC での画像のローカル生成には、引き続き Microsoft サーバーへの接続が必要です。
調査によると、ペイント アプリケーションの作成機能は使用できますが、 AI PC を使用可能 ローカルの安定拡散モデルが画像を生成しますが、プロセス全体が完全にオフラインではありません。生成を開始する前に、ペイント アプリケーションは、ユーザーが入力したプロンプトの単語と選択したスタイルをレビューのために Microsoft サーバーに送信します。サーバーは、変更されたプロンプト ワード、プロンプト ワード生成 ID、およびウォーターマーク ID を返し、NPU ユニットを介してコンピューター上でローカルに画像が生成されます。
画像が生成された後、ペイント アプリケーションはブラインド ウォーターマーク コントロールを呼び出し、サーバーから返された 16 バイトのブラインド ウォーターマーク関連パラメータを画像ピクセルに書き込みます。ブラインド ウォーターマーク自体は肉眼では見えませんが、Microsoft は特定の検出メカニズムを通じて、画像がペイント アプリケーションによって生成されたかどうかを識別できます。
GUID 識別子は画像ピクセルに直接書き込まれます:
逆分析により、ブラインド ウォーターマーク メカニズムが16 バイト GUID は 144 ビット データに拡張され、画像の複数のブロックにわずかな変更を加えて埋め込まれました。研究者らはテストに 512x512 ピクセルの画像を使用しました。 Microsoft がブラインド ウォーターマークを追加した後、190,000 ピクセル以上がわずかに変更されました。
さらに注目すべき点は、描画アプリケーションでは、ブラインド ウォーターマーク機構の記述に失敗した場合、ウォーターマークなしの画像を返すのではなく、AI 画像生成タスクが直接失敗とみなされます。 Microsoft はこのプロセスを AI 生成に必要なリンクとして捉えており、ブラインド ウォーターマーク マークが完了しない限り画像は生成されないことがわかります。
スクリーンショット/トリミングなどは Microsoft の認識には影響しません。
ペイント アプリケーションは、ピクセルの変更に加えて、業界全体の C2PA コンテンツ証明書も画像に追加します。実際に生成された PNG ファイルを確認したところ、研究者らは、C2PA リストが画像を AI によって生成されたものとして明確にマークしただけでなく、Microsoft InvisMark のブラインド ウォーターマーク情報も記録していることを発見しました。
そこに保存されているウォーターマーク値は、サーバーによって以前に返され、実際に画像ピクセルに書き込まれたブラインド ウォーターマーク ID とまったく同じです。これは、Microsoft が実際に 2 層の原産地証明 (C2PA メタデータ + 画像ピクセルに隠された目に見えないウォーターマーク) を使用していることを意味します。したがって、ユーザーが特定のツールを使用して C2PA メタデータを削除した場合でも、Microsoft はピクセルを通じてウォーターマークを識別できます。たとえば、単純なスクリーンショットやトリミングなどでは、ブラインド ウォーターマークを完全に破壊することはできません。
また、Microsoft の写真/アルバム アプリケーションの AI 画像生成およびスタイル変換機能でもブラインド ウォーターマーク メカニズムが使用されています。いくつかの違いは、ペイント アプリケーションがウォーターマークの書き込みに失敗した場合、画像の生成を直接終了するのに対し、アルバム アプリケーションはエラーを記録し、生成された結果を返し続けることです。
コメント