要約:
AI モデルとコンピューティング能力への違法アクセスは、サイバー犯罪の裏社会で急速に最もホットなアイテムになりつつあります。ハッカーは、高価な大規模言語モデルを脅迫、戦争、スパイ行為に悪用しようとします。 Google Threat Intelligence Groupの主任アナリスト、ジョン・ハルトクイスト氏は、サイバーセキュリティ・グループは今年、いわゆる「LLMジャッキング」攻撃が大幅に増加していることを確認していると述べ、その攻撃には、公開AIツールの盗んだログイン資格情報を販売したり、独自のモデルを無料で実行するためにコンピューティング・リソースを盗んだグループが含まれていると述べた。
「アンダーグラウンド市場で私たちが目にしているのは、AI アクセスを中心とした経済の成長です」と、サイバーセキュリティに 20 年のベテランであるハルトクイスト氏は述べています。
ハルトクイスト氏は、高価な AI リソースを低コストで入手することで、サイバー攻撃者がターゲットよりも経済的に有利になるため、攻撃者自身を守るためにもこれらの AI ツールを使用する必要があると警告しました。
彼は次のように述べました。「結局のところ、これらの行動はすべて、彼らが実際にはるかに安い価格でこれらのトークンを入手できるため、私たちに対して何らかの経済的または効率的な利点を彼らにもたらします。」
Google の脅威インテリジェンス部門の研究者は、ダークウェブ上の一部のマーケットプレイスが、Anthropic、Google、OpenAI などの企業の AI モデルへのアクセスを最大 97% の割引で販売していることを発見しました。 ChatGPT と Claude の AI サブスクリプション サービスの最新バージョンの料金は、ユーザーあたり月額最大 200 ドルです。
AI Labs がそのような不正行為の兆候を監視していることを考慮して、一部の販売者は、元のアカウントが禁止された場合に新しいログイン認証情報を無料で提供すると約束する「アクセス保証」を提供していることさえある、とハルトクイスト氏は述べた。
他のケースでは、犯罪組織や国家の支援を受けた組織が、企業がクラウド上でホストするサーバーをハッキングし、独自の AI モデルを展開してターゲット システム上で実行します。このアプローチは、暗号通貨マイニングのためにサードパーティのコンピューターを侵害する脅威アクターによる以前の試みに似ています。
AI はすでに「すべての脅威アクター」によって使用されているとハルトクイスト氏は述べ、将来的には AI ツールがサイバーセキュリティ システムに不可欠な部分になるはずだと付け加えた。 Anthropic の AI 悪用に関する最新の四半期報告書の中で、同社は、米国、英国、イエメンを含む 20 か国以上の脅威アクターが同社の Claude ツールを悪意のある活動に使用しようとしていたことを発見しました。
同氏は、「AI が単なる流行であり、AI が消え去ってほしいと考えている人は、いつか目が覚めて、自分が打ちのめされていることに気づくでしょう。彼らは、これまで以上に多くのセキュリティ インシデント、より多くの警報、より多くの攻撃に直面することになるでしょう。私たちは今、自分のことは自分でしなければなりません。」
ハルトクイスト氏は、クラウド サービス プロバイダーからコンピューティング パワーを借りるのではなく、カスタマイズされた AI モデルを自社のサーバーに導入しようとする大企業が増えているため、これらのシステム自体も攻撃の対象となり、厳重に保護する必要があると警告しました。 「コンピューティング パワーにお金を払っていて、コンピューティング パワーが非常に高価である場合、それは脅威アクターにとって非常に魅力的な潜在的なリソースになります。」
ハルトクイスト氏はまた、企業がどれだけの AI リソースを使用するかをまだ把握していないため、ハッカーが標的のアカウントやコンピューター サーバーに「侵入」するのに最適な時期であるとも述べました。
同氏は次のように述べています。「非常に多くの AI インフラストラクチャを導入したばかりなので、コンピューティング能力の使用量が突然大幅に増加するのはまったく正常なことだと思うかもしれません。これにより、一部の人々には騒音の中に隠れる機会が与えられます。」
コメント