今年の初め、ソーシャルプラットフォームのDiscordは世界的な規制圧力に応えて「ティーン・バイ・デフォルト」を導入し、デフォルトで全員を未成年者として扱い、一部の機能を直接ロックした。アダルト モードのロックを解除するには、年齢認証に合格する必要があります。検証方法は主に2つあります: カメラで短い自撮りビデオを撮り、AI に携帯電話でローカルに年齢を推定させます。または正直にIDカードをアップロードしてください。
その結果、インターネット仲間たちはさまざまな極端なテストを開始しました。ゲームのスクリーンショットを使って騙す人もいれば、3D モデルを使う人もいますが、最もとんでもないのは指の棒人間を使うことでした。
誰かが親指に 2 つの目と口を描き、それをカメラの前に上げ、システムのプロンプトに従って中央に配置し、左に向きを変え、右に向きを変えました...AI 分析が完了した後の結論は次のとおりでした。13 ～ 15 歳、確認済みです。
インターネットは、「抜け穴を利用する」という点において、想像力を欠くことはありません。アイブロウペンシルでヒゲを描き、システム上15歳と判定され無事審査を通過した12歳の少年もいた。
なぜこのようなことが起こっているのでしょうか?
プライバシー紛争を最小限に抑えながら監視に対処するために、これらのプラットフォームは、ユーザーがカメラの前でビデオを録画する、デバイス側の顔年齢推定ソリューションを選択しています。 AIモデルは完全にローカルの携帯電話やパソコン上で実行され、最終的な年齢層判定結果のみがサーバーに返送されます。完全なビデオや顔データはアップロードされません。
これはプライバシー リスクが低く、検証プロセスが比較的軽いように思えますが、その代わりに、利用可能なコンピューティング リソースが限られており、モデルが複雑になりすぎてはならず、サーバー側での強力な分析に依存できないという点が挙げられます。
これらのモデルは主に、目、口、顔の輪郭、肌の質感などの視覚的特徴に基づいて年齢を推測します。 2 つの点と 1 本の線で描かれた単純な親指は、特定の光、角度、低解像度の下で、「若くて滑らかな顔」の抽象的な特徴パターンに予期せず一致します。
システムが「顔」を中心に置き、左右に回転させる必要がある場合、指の自然なわずかな揺れと追従動作が基本的な動作信号を提供します。これは、比較的軽量の生体検出ではこれを「生きている」オブジェクトとみなして直接解放するのに十分です。
AI 年齢推定モデルは主に大量の素顔データを使用してトレーニングされるため、そのような非常に非標準的で抽象的な入力に対する十分な堅牢性が本質的に不足しています。
ロールアウトの初期には、一般ユーザーが不十分な照明、間違った角度、または特別な外観によって頻繁に失敗するのを防ぐために、プラットフォームはしきい値を比較的緩く設定する必要があり、それがこのローテクの邪悪な方法を利用する機会を与えました。
同様の状況が Roblox などのプラットフォームでも発生しました。現在の顔面年齢テクノロジーは、注意深く設計された欺瞞手法に直面すると、完璧とは程遠いことがわかります。
プラットフォームは静止しているわけではありません。
少し前に、Meta は AI を使用して、ユーザーがアップロードした写真やビデオをアクティブにスキャンすると発表しました。身長や骨格などの一般的な視覚的手がかりを使用して、アカウント所有者が 13 歳未満であるかどうかを判断し、直接削除します。
メタ氏は特に「これは顔認識ではない」と強調している。おおよその年齢範囲のみを判断します。 」
さらに、メタは写真を見るだけでなく、アカウント全体のテキストコンテンツと、誕生日ケーキや学年の言及などのインタラクティブな行動の包括的なポートレートを組み合わせて判断します。
AIが未成年であると判断すると、まずアカウントを削除します。取り戻したい場合は、公式の認証プロセスを経る必要があります。このシステムは現在一部の国でオンラインになっていますが、将来的にはより多くの地域に徐々に拡大される予定です。 Instagram LiveやFacebookグループなどへの展開も予定されている。
プラットフォームは AI を使用して抜け穴をふさぎ、ユーザーは抜け穴を悪用する方法を見つけています。
このいたちごっこはおそらく今後も続くだろう。