生成 AI サービスは、インターネット ユーザーとサイバー犯罪者の両方の間で非常に人気があります。 FBI によると、「合成」コンテンツがさまざまな詐欺行為に使用されるケースが増えています。ただし、適切な予防措置を講じている限り、オンラインでも効果的に身を守ることができます。
FBIは、人工知能が生成したテクノロジーの犯罪的悪用について警告を発した。同局は最近の公共サービスの発表で、詐欺師が違法な計画をより説得力のある効果的なものにするために人工知能が生成したコンテンツを利用していると米国人に警告した。
FBI によると、生成 AI により、犯罪者はターゲットを欺くのに必要な時間と労力を削減できます。これらの人工知能ツールは、ユーザーが入力したプロンプトに基づいてまったく新しいコンテンツを「合成」します。特に AI が生成したテキストでは、疑惑を引き起こす可能性のある人的エラーの修正にも役立ちます。
人工知能を使用してコンテンツを作成することは本質的に違法ではありませんが、そのコンテンツが詐欺や恐喝の目的で使用される場合は犯罪となります。 FBI の警告では、生成 AI が悪用される可能性のある例をいくつか概説し、ユーザーがオンラインで安全を保つための実践的なアドバイスを提供しています。
ソーシャル エンジニアリングやスピア フィッシング キャンペーンでは、AI が生成したテキストは非常に説得力があるように見えます。詐欺師は AI が生成したテクノロジーを活用して、偽のコンテンツを大量に作成し、偽のソーシャル メディア プロフィールを作成し、メッセージを送信し、より正確に文法上の誤りを減らして言語を翻訳しています。詐欺的な Web サイト全体が記録的な速さでセットアップされるようになり、チャットボットが被害者を騙して悪意のあるリンクをクリックさせるために使用されます。
AI によって生成された画像が現在のトレンドの最前線にあり、サイバー犯罪者がそれを最大限に活用していることは疑いの余地がありません。詐欺師は、AI が生成したビジュアルを使用して、偽のソーシャル メディア プロフィールや偽の身分証明書を強化し、詐欺行為を支援しています。 FBI によると、人工知能アルゴリズムは、ソーシャル エンジニアリング キャンペーン、スピア フィッシング、詐欺、さらには「殺人鍋」に使用される「現実的な」画像を生成する可能性があります。
AI によって生成されたオーディオおよびビデオ コンテンツも同様のリスクをもたらします。犯罪者は現在、著名人やターゲット自身になりすまして、経済的援助を要求したり、銀行口座などの機密情報にアクセスしたりすることができます。
FBIは、身元を確認する簡単な方法として、信頼できる家族や友人との間で「秘密の言葉」やフレーズを確立するようユーザーにアドバイスしている。生成型 AI 犯罪から身を守るためのその他のヒントには、画像やビデオに異常や矛盾がないか注意深くチェックすること、個人の画像や記録がオンラインで公開されるのを最小限に抑えることなどがあります。
FBIは、金銭的要求を処理する際、テキストや電子メールに頼るのではなく、直接電話でその正当性を確認することの重要性を強調している。オンラインでしか会ったことがない人と機密情報を共有しないでください。これは明らかなことのように思えるかもしれませんが、FBI はまた、オンラインで見知らぬ人にお金、ギフトカード、または暗号通貨を送信することは非常に危険であり、詐欺につながることが多いと繰り返し述べています。