香港警察は、人工知能が再び悪の目的に利用されていることを明らかにした。多国籍企業の財務スタッフが、ディープフェイク技術によって当初の疑惑が払拭された後、英国に本拠を置く同社の最高財務責任者を装った何者かによって、秘密取引を行うよう依頼された。
フィッシングメールを受け取った後、その会計士は同僚によく似た見た目や口調の他の数名とのビデオ通話に招待されました。しかし、それは実際には彼らではなく、誰かがディープフェイク技術を使って彼らに似せただけでした。
しかし、この欺瞞は被害者をだますのに十分であり、被害者は詐欺師に約 2,560 万ドルを送金しました。香港警察は、これまでの事件では6人が逮捕されており、この技術が本格的に使用されたのは今回が初めてではないと述べたが、今回の強盗事件の首謀者が逮捕された形跡はなかった。
CNNの報道によると、従業員は本社に確認した際に初めて送金が詐欺であることに気づいたという。多額の損失を出したにもかかわらず、同社はいかなる情報も開示せず、従業員の現在の雇用状況も把握していなかった。
従業員をだましてビデオ通話をさせた何人かは詐欺師だった。これは、テクノロジーがいかに強力であるか、そしてこれらの新興テクノロジーを規制することがなぜ重要であるかを示しています。
今年後半に予定されている米国選挙は、ディープフェイク関連の偽情報キャンペーンの主な標的となる可能性が高いため、メタのような大手テクノロジー企業が、欺瞞的なコンテンツの拡散を遅らせるためにユーザーに適切な警告を発することが重要である。
ディープフェイクを検出するためにユーザーが実行できる手順には、顔の特徴の不一致、信頼できる情報源による情報の検証、奇妙な照明、影、頭の動きに注意するなどがあります。