現代のAI画像ジェネレーターは急速に進化しており、変形した手足、乱雑なテキスト、奇妙な画像ノイズなど、初期には一目で見えた欠陥は、エンジニアリング手段によって徐々に平滑化されています。今日、多くの合成画像は一般人の目を欺くのに十分であり、ソーシャルメディア上で制御不能に拡散します。しかし、サイエンス誌に掲載された研究では、これらのモデルは依然として本質的に現実世界で光と幾何学がどのように機能するかを「理解していない」と指摘しており、物理法則は本物の画像と偽物の画像を識別するための最も信頼できるツールの1つになりつつあると指摘しています。

研究者らは、反射、影、遠近感の線、その他の一見些細な部分が測定されている限り、一見完璧に見えるAI写真を明らかにするチャンスはまだあると指摘しました。物理世界の一貫性に基づくこの検証方法は、デジタルフォレンジックの専門家によって、「ディープフェイク」の時代に本物の写真とAI偽造物を区別するための重要な防御線とみなされています。初期の識別では、大まかな技術的欠陥を捉えるために肉眼に依存することがよくありましたが、制作の品質が向上するにつれて、画像は、明るい色、ドラマチックな構成、映画の雰囲気に満ちた「現実」に対する人間の主観的な期待にますます準拠し始めました。この「作られたドラマ」によって人々は警戒を緩めやすくなった。

カリフォルニア大学バークレー校の教授であり、デジタルフォレンジック分野の創始者の一人として広く知られているハニー・ファリド氏は、AI画像のもう一つの「隠れた弱点」を悪用している。彼のアプローチは、明らかな視覚的エラーを探すことではなく、生成された画像を現実世界に現れるはずの幾何学的関係と比較することです。彼の意見では、既存の画像生成モデルは、美術の授業で基本的な概念である消失点をまだ真に学習していません。

例として、AI が生成した「廊下を行進する兵士」の写真を見てみましょう。ぼやけて読みにくい壁の文字、不可解な鎖など、写真には明らかな欠陥がいくつかあります。しかし、より重要な手がかりは地面のタイルに隠されています。遠近法の原理によれば、現実の平行線 (床のタイルや木の床の継ぎ目など) は、写真内の同じ消失点に伸びて収束するはずです。 [ライン] ツールを使用してこれらの構造に沿って線を引くと、実際の写真のように遠くで交わるかどうかを確認でき、画像が信頼できるかどうかを最初に判断できます。

同様の幾何学的関係が反射にも当てはまります。研究によると、今日の生成モデルは人間の目を欺くのに十分な水や鏡面反射をすでに合成できるものの、定規を使って測定する限り問題が明らかになるという。現実の世界では、物体の特定の点とそれに対応する反射点を結ぶ線は互いに平行であり、延長された後は同じ消失点を指す必要があります。これらの線が過度にずれているように見える場合は、これが合成画像であることを意味する可能性があります。

太陽が落とす影も、このタイプのテストのグリップ力を高めます。太陽は地球から非常に遠いので、地面に当たる太陽光はほぼ平行光と考えられます。この前提の下では、オブジェクトの特定の点と影内のそれに対応する点の間の線も延長して消失点に収束できるはずです。写真内のさまざまなオブジェクトの影の線が一貫した幾何学的関係を示すことができない場合、光学の基本法則に違反している可能性があります。

現時点では、生成モデルがこれらの物理レベルのエラーを根本的に克服できる時期とその有無を予測することは困難です。初期の肉眼で簡単に識別できた欠陥と比較して、遠近法と光に基づく「幾何学的検証」では、観察者がより多くの時間とエネルギーを費やす必要があり、平均的なソーシャルメディアユーザーの日常の警戒基準をはるかに超えています。研究者の中には、そのような物理法則を深く理解することは、現在の主流の生成モデルの設計能力を超えているのではないかとさえ考えています。

この取り組みに加えて、専門家は「AIを識別するためにAIを使用する」ことについても注意するようユーザーに注意を促しています。一部の自動検出ツールは、特定の条件下では確かに訓練を受けていない人間の目よりも信頼性が高い場合がありますが、入力画像とそのトレーニング データの分布があまりにも異なると、アルゴリズムにエラーが発生したり、体系的なバイアスが発生したりする可能性があります。言い換えれば、スクリーニングタスクを別のブラックボックスモデルに完全に引き渡すことは、確実な解決策ではありません。

関連する研究では、写真が「本物」であることを確認することは「偽物」であることを特定するよりも難しい可能性があるという興味深い発見もしました。この研究では、観察者が欠陥を見つけることなく画像を長く見続けるほど、それが本物の写真である可能性が高くなることがわかりました。この観点からすると、「間違いが見つからない」ということ自体が、本物である証拠の一つとなり得ます。