要約:
アメリカの人工知能企業 Anthropic は最近、脅威インテリジェンス レポートを発表し、Alibaba、Moonshot AI、DeepSeek、Xiaomi、その他いくつかの中国の AI 研究所を含む機関が、Claude への大規模な呼び出しを通じてモデルの機能を抽出し、生成された結果を独自の人工知能モデルのトレーニングと改善に使用していると非難しました。 Anthropic は、この行為を不正な「蒸留攻撃」と呼んでいます。
いわゆるモデルの蒸留とは、より強力な機能とより大きなスケールを備えたモデルを使用して多数の回答を生成し、次にこれらの出力をトレーニング データとして使用して、より低コスト、より小規模、またはより弱い機能でモデルをトレーニングすることを指します。 AI 企業にとって、これはトレーニング コストを削減し、モデルの機能を迅速に向上できる技術的なルートです。しかし、Anthropic は、今回発見された動作の一部は通常のモデルの抽出の範囲を超え、ビジネス モデルの機能が組織的かつ大規模に抽出されたものであると考えています。
アンスロピック社は、2026 年 5 月から 7 月にかけて、アリババ関連の業務によりクロードとのやり取りが 1 億 5,100 万件以上発生し、同社がこれまでに発見した違法蒸留業務としては最大規模であると述べた。関連する操作では、Anthropic が不正と特定した 3,500 を超えるアカウントが使用され、1 日あたりの最も多いインタラクション数は 300 万近くに達しました。
Anthropic は、これらのアカウントは主に、クロードに継続的に大量の質問をし、モデルの回答とより詳細な推論プロセスを取得し、この情報をアリババの Tongyi Qianwen シリーズ モデルの改善に使用するために使用されていると考えています。
モデル開発者にとって、推論プロセスは特に価値があります。最終的な答えを得るのみと比較して、詳細な推論記録は、モデルが問題をどのように分析したか、タスクをどのように分解し、最終的な結論にどのように到達するかをトレーナーに示すことができるため、高度な推論モデルをトレーニングするための重要なデータとなり得ます。
Anthropic は、キミの開発者である Dark Side of the Moon AI とも呼ばれています。報告書によると、2026年5月から7月にかけて、ダークサイド・オブ・ザ・ムーン関連のアカウントはクロードと2,300万件以上のやり取りを行ったという。
さらに注目すべきことは、Anthropic が Dark Side of the Moon を、モデルの蒸留にクロードを使用しただけでなく、処理のために Kim ユーザーからの実際のリクエストをクロードに転送したと非難したことです。
Anthropic は、10 日間の期間のうちの 1 つで、Dark Side of the Moon は最初に 5,380 のアカウントで構成されるアカウント ネットワークを通じて、当初 Kimi to Claude に送信された約 300,000 のユーザー リクエストを転送し、リクエストのほとんどが Claude Opus シリーズのモデルに送信されたと述べました。 Anthropic は、これらのアカウントは主にシンガポールと日本にあり、実際のリクエストの送信元を隠すために使用されていると考えています。
これは、場合によっては、Kimi ユーザーが Dark Side of the Moon 独自のモデルと対話していると考えているが、実際にはリクエストが処理のために Anthropic の Claude に転送される可能性があることを意味します。アンスロピック氏はまた、ダークサイド・オブ・ザ・ムーンはインタラクティブコンテンツの一部を保存し、クロードの推論記録をトレーニングデータとして抽出したとも述べた。
さらに憂慮すべきことに、これらの転送されたリクエストは必ずしも通常のチャット コンテンツであるとは限りません。アンスロピック氏は、リクエストの一部には機密情報が含まれており、ユーザーは自分のデータが実際に別のAI企業のモデルに送信されていることに気づいていない可能性があると述べた。
報告書では、キミに関連した事件が引用されています。あるユーザーは、人物の行動を特定するために、中国成都の大量の監視カメラの映像を分析するようキミに依頼した。 Anthropic によると、ビデオ データは最終的に処理のためにクロードに転送され、ユーザーは当初、データがキミ内で分析されたと信じていました。
Anthropic は、一部のユーザーが Kimi に送信したコンテンツの一部に、企業のログイン資格情報などの機密情報が含まれていることも発見しました。あるケースでは、エンジニアが中国企業のソフトウェア開発を支援するために Kimi を使用するために複数の企業のログイン認証情報を Kimi に送信し、その後関連情報が Claude に転送されました。
Anthropic は、ユーザーは自分のリクエストが Anthropic のモデルに転送されることを明確に認識していないため、モデルの抽出の問題に加えて、このアプローチはプライバシーとデータ セキュリティの重大なリスクを引き起こす可能性があると述べました。
DeepSeek も同様のアプローチを採用したとして Anthropic から非難されました。報告書には、DeepSeek が 2026 年 7 月の 14 日間に 1,200 万回を超えるクロード関連の蒸留インタラクションを実行したことが判明したと記載されています。
Anthropic は、DeepSeek がユーザーからの実際のリクエストもクロードに転送しており、これらのリクエストのコンテンツの一部には機密情報が含まれていたと考えています。その後、Claude の回答は DeepSeek 独自のモデルのトレーニングと改善に使用されました。
Alibaba、Dark Side of the Moon、DeepSeek に加えて、Anthropic は Zhipu や Xiaomi などの中国の AI 企業の名前も挙げました。報告書によると、Xiaomi はユーザーと MiMo モデル間のチャットを記録し、モデルトレーニング用のデータを生成するためにこれらの会話をクロードに渡しました。
Anthropic は、報告書の対象期間中に、合計 7 つの中国の AI 研究所がクロードを対象としたモデル蒸留活動を実施していたことが判明したと述べました。すべての関連アクティビティがまったく同じ手法を使用しているわけではありませんが、共通の特徴は、クロードの出力を大量に取得し、そのモデルの機能を学習し、その情報を独自の AI システムのトレーニングに使用しようとしているという点です。
Anthropic は、これらの活動がますます組織化され、大規模になっていると考えています。テストのために他の AI モデルを時々呼び出す一般的な開発者とは異なり、これらの操作では、多数のアカウント、エージェント、中間プラットフォームを使用して、本当のアイデンティティを隠し、産業規模でモデルの相互作用を継続的に生成します。
その中でも、アリババ関連の活動が特に注目を集めています。 1 億 5,100 万件を超えるインタラクションは、この作戦が単純な実験テストではなく、数か月に及ぶ大規模なデータ収集作戦であることを意味しました。 Anthropic は、これらのデータは主に Alibaba の Tongyi Qianwen モデルのトレーニングと改善に使用されると考えています。
Dark Side of the Moon と DeepSeek の場合、Anthropic はクロードからトレーニング データを取得するだけでなく、独自のユーザー リクエストを競合モデルに転送していると非難しているため、問題はさらに複雑です。これは、ユーザーがある AI 企業に送信したコンテンツが、明示的な通知なしに別の AI 企業のシステムに入る可能性があることを意味します。
Anthropic は、関連アカウントの禁止、身元確認の厳格化、クロードの詳細な推論を出力する能力のさらなる制限など、これらの活動を阻止するための措置を講じたと述べた。詳細な推論記録はモデルの蒸留にとって非常に価値があるため、このコンテンツの出力を減らすと、多数の自動リクエストを通じてクロードの機能を複製する競合他社の効率が低下する可能性があります。
Anthropic はまた、中国、ロシア、イランなど、現在クロードが正式なサービスを提供していない国や地域のユーザーに対し、制限を回避してクロードにアクセスしようとしている疑いのあるユーザーに対する身元確認措置を強化するとも述べました。
アンスロピックが中国の AI 企業をモデル蒸留に関して公に非難したのは、このレポートが初めてではない。今年6月、人類政策局長サラ・ヘックは米国議会議員に書簡を送り、アリババは4月22日から6月5日までにクロードと約2,880万回のやり取りがあり、これらのやり取りが無許可のモデル抽出に使用されたと考えていると述べた。
この最新のレポートは、Anthropic が関連活動の規模が将来さらに拡大すると考えていることを示しています。アリババだけでも、5月から7月の間に1億5,100万件以上のインタラクションがあり、これまでに明らかにされた数字をはるかに上回っています。
同時に、この事件は中国と米国の間の AI 競争がますます激化していることを背景に発生しました。近年、中国の AI 企業は、比較的低いトレーニングと推論のコストでモデルの機能を急速に向上させています。 DeepSeek、Kimi、Tongyi Qianwen などの製品は、世界の AI 業界の重要なプレーヤーとなっています。アメリカのAI企業はClaudeシリーズやGPTシリーズなどの高度な基本モデルを持っています。
モデル蒸留自体は違法または不当な手法ではありません。 AI 開発者は、教師モデルによって生成されたデータを使用して、承認を得て独自のモデルをトレーニングできます。しかし、Anthropic は、関連企業が多数の偽アカウント、代理店プラットフォーム、隠されたデータ転送メカニズムを通じて、Anthropic の許可なくクロードの能力を組織的に取得した疑いがあるため、この作戦は重大な問題を引き起こしていると考えています。
さらに重要なことに、Anthropic は、一部の行為がユーザー データのセキュリティ問題に触れていると考えています。普段 AI サービスを使用しているユーザーは、通常、 Kim や DeepSeek などのプラットフォームに送信したデータは、これらのプラットフォームのプライバシー ポリシーに従って処理されると考えています。プラットフォームが実際にこれらのリクエストをサードパーティ モデルに転送する場合、ユーザーは自分のデータが別の企業のシステムに入っていることに気づかない可能性があります。
報道時点では、Alibaba、Dark Side of the Moon、DeepSeek、Xiaomi、Anthropic はコメントの要請にすぐには応じていない。中国外務省は、アントロピックが発表した報告書については承知していないと述べ、中国政府は人工知能は人類に利益をもたらすために利用されるべきだと考えており、事実を歪曲し中国を中傷することに反対していると繰り返した。
Anthropic によって明らかにされた事件は、AI 業界で長年続いているモデル蒸留論争も再浮上させました。高度な基本モデルを保有する企業にとって、自動化や大規模な呼び出しによって競合他社がモデルの機能を取得するのをどのように防ぐかは、ビジネスおよびセキュリティの分野で重要な課題となっています。 AI アプリケーション企業にとって、ユーザー データの処理方法や、リクエストがサードパーティ モデルに転送されていることをユーザーに明確に通知する必要があるかどうかも、将来の規制上の焦点となる可能性があります。
業界競争の観点から見ると、Anthropic が発表した数字は特に注目に値します。 1 億 5,100 万件以上の Alibaba 関連のインタラクション、2,300 万件以上の Dark Side of the Moon 関連のインタラクション、および 1,200 万件以上の DeepSeek 関連のインタラクションは、高度な AI モデル間の競争が、もはや伝統的な意味でのアルゴリズムとチップに関するものだけではなく、トレーニング データ、モデル機能の取得、モデルの蒸留などの領域にまで拡大していることを示しています。
さまざまな AI モデル間の能力差が縮小し続ける中、公的テクノロジーの合法的使用、通常のモデルの抽出、および無許可の大規模な能力複製の間に明確な線を引く方法は、世界の AI 業界が将来直面しなければならないますます困難な問題になるでしょう。
コメント