オーストラリアの最新の研究では、一般の人が人工知能によって生成された顔を実際の顔と確実に区別するのは難しいことが示されています。 「スーパー認識者」として知られる少数の人々にとってさえ、その利点は明らかではありません。研究者らは、人々は人を識別する能力を過信していることが多いため、このような非常にリアルな合成顔はセキュリティクリアランスや本人確認に重大な課題を引き起こす可能性があると警告している。
この研究はニューサウスウェールズ大学（UNSWシドニー）とオーストラリア国立大学（ANU）の心理学チームが共同で実施し、論文は英国心理学ジャーナルに掲載された。研究チームは、今日の「合成AIの顔」は、主観的には実際のポートレート写真よりも「リアル」である可能性があり、関連する実験データがこの判断を裏付けるものであると指摘した。
ニューサウスウェールズ大学心理学部の研究者ジェームス・ダン氏は、人々は長い間、AIが生成した偽の顔を一目で認識できると信じていたと述べた。初期の AI システムでは、歪んだり、変形したり、不完全な画像が生成されることがよくありましたが、生成モデルの急速な発展により、非常にリアルな顔を作成することが非常に簡単になりました。
具体的な実験では、両大学は「スーパー認識者」として特定された被験者36名と対照群としての一般参加者89名を含む、合計125名の参加者を募集した。全員が同じテストをオンラインで受けました。本物の顔と AI が生成した顔がランダムに画面に表示され、被験者はそれぞれが「本物」であるか「合成」であるかを判断するように求められました。
その結果、一般の人々の判断能力はランダムなレベルの「盲目の」人々よりもわずかに優れているだけであり、「スーパー認識者」の方が全体的なスコアは高かったものの、その利点は非常に限られていたことがわかりました。さらに皮肉なことに、認識能力に関係なく、すべての参加者が自分の「AI の偽の顔を見破る能力」に等しく高い自信を持っており、重大な過信を示していました。
研究によると、AI によって生成された現代の顔は、初期の頃ほど明らかな欠陥でいっぱいではなくなっています。背景のぼやけ、器官の欠落、顔の特徴の奇妙な比率などの典型的な「アルゴリズムの痕跡」は、ますます少なくなります。その後、オンライン詐欺、なりすまし、ソーシャル エンジニアリング攻撃などのシナリオで、これらの非常に紛らわしい偽の顔の潜在的なリスクが急速に蓄積され、その結果、個人と組織の両方が被害を受ける可能性があります。
ANUのエイミー・ダーウェル准教授は、今日のAIの偽の顔は「何かがひどく間違っているから正体を現すのではなく、あまりにも優れているからである」と指摘する。異常であると言うよりは、「正常すぎる」と言った方が適切です。顔の対称性が高く、顔の特徴の均整が取れており、全体的な特徴は統計的な意味で「平均的」です。それらは見た目も楽しく、「目にも楽しい」ものです。同氏は、この種の「異常に完璧」や「平均的すぎる」外見の特徴自体が、AIによって生成される潜在的な危険信号とみなされる可能性があり、優れた顔認識能力を持つ人々はこれらの微妙なパターンをよりよく捕捉できる可能性があると強調した。
研究チームの次の計画は、技術的な自動検出ツールと大衆認識戦略の改善を促進するために、これらの「スーパーAI偽顔検出器」がどの知覚的手がかりに依存しているかをさらに分析することである。現在、UNSWは公式ウェブサイトで「UNSW Face Test」オンラインテストを開始しており、これにはAI偽顔認識機能の無料デモ版が含まれている。一般ユーザーも自分の認識レベルを評価できます。
記事の著者は個人的にテストに参加した後、20 の顔のうち 12 の AI の偽の顔を 2 回正しく識別したことがわかりました。公式の指示によると、この結果は「スーパーレコグナイザー」に分類される予定ですが、一般参加者の平均スコアは約11/20です。 AI によって生成された画像は向上し続けるため、このようなわずかなリードは、テクノロジーと人間の認識との間のギャップの拡大を浮き彫りにするのに十分です。