要約:
Anthropic の最新の Claude Opus 5.5 では、モデル機能の向上に加えて、最先端の大規模言語モデル開発シナリオ向けの特別な制限メカニズムが追加されていることが判明しました。ユーザーが Opus 5.5 を使用して新世代の AI モデルの基礎となるカーネルを開発する場合、システムは最新の Opus 5.5 を直接使用せず、より低い機能を備えた Opus 5 に自動的にフォールバックする場合があります。さらに注目に値するのは、この一連の制限がファーウェイとアマゾンの一部の AI アクセラレーターをターゲットにしていると思われることが現在判明していることです。
Anthropic は、Opus 5.5 サポート ドキュメントの中で、このモデルには「最先端の LLM 開発」専用の分類子があり、一部の機械学習アクセラレータのカーネル開発など、限られた範囲のタスクをカバーしていると説明しました。このタイプの分類子の目的は、ユーザーの現在のリクエストが最先端の大規模言語モデル自体の開発に関係しているかどうかを判断することです。関連する条件がトリガーされると、クロードは自動的に Opus 5.5 から Opus 5 にフォールバックします。
いわゆる AI コアは、人工知能モデルを実行する際の最下位レベルの一連のコンピューティング操作を指します。カーネルは、モデルがチップ上のコンピューティング リソースとメモリをどのように使用するか、およびさまざまな数学的演算を実行する方法を決定する責任があります。これらの操作は数学的計算が実際のプロセッサにどのようにマッピングされるかを直接決定するため、カーネルの設計は、大規模な言語モデルの実行速度、メモリ使用量、精度、推論コストに直接影響します。最も高度な AI モデルをトレーニングして実行するには、特定の AI アクセラレータのカーネルの最適化が重要なステップとなることがよくあります。
この制限は、Opus 5.5 の正式リリース後のサポート ドキュメントでユーザーによって初めて発見されました。 Anthropic はこれまで、潜在的にリスクのあるリクエストを特定するために一部のモデルで分類子を使用していましたが、今回はさらに同様のメカニズムを最先端の AI モデルの開発に適用しました。
Anthropic は、これらの制限は従来の人工知能、機械学習研究、および通常のプログラミング タスクの大部分に影響を与えないことを明らかにしました。少数の最先端の LLM 開発機能が関与している場合にのみ、システムはロールバック メカニズムをトリガーすることがあります。したがって、一般の開発者にとって、日常のプログラミング、AI アプリケーション開発、機械学習の研究における Opus 5.5 の使用には、基本的に影響はありません。
しかし、さらなるテストの結果、一部のユーザーは、Opus 5.5 が一部の AI チップを特異的に認識しているようであることを発見しました。現在の公開テスト結果によると、この分類器セットには少なくとも Huawei 社の Ascend 950DT と Amazon が自社開発した Trainium3 AI チップが含まれています。ただし、開発者が Opus 5.5 を使用して、これらのチップ用の最先端の大規模言語モデルの基礎となるカーネルを開発する場合、モデルは自動的に Opus 5 に切り替わる可能性があります。
ファーウェイのチップがこの制限に含まれていることは驚くべきことではありません。アンスロピックは近年、中国企業がそのモデルを入手する能力に対する警戒を強化しており、モデルの蒸留は重要な安全保障および国家安全保障の問題であると見ている。いわゆるモデルの蒸留とは、より有能なモデルを大量に呼び出し、その動作と機能の特性を抽出し、これらのデータを使用して別のモデルをトレーニングすることを指します。 Anthropic の最近の脅威インテリジェンス レポートでは、複数の中国関連組織が Claude の Opus シリーズ モデルに対して不正な蒸留活動を行っていることを同社が発見したため、アカウントの特定、リクエストの傍受、推論プロセスの保護メカニズムをさらに強化したことが明らかになりました。
Anthropic は、Opus 5.5 で、コンテキストを繰り返し操作することによってモデルの内部推論情報が抽出されることを避けるために、API ユーザーがモデルの以前の会話コンテキストを変更することを制限するなど、より厳格な抽出防止策も追加しました。同社は、こうした措置は主に、一般ユーザーによる通常の使用ではなく、大規模な産業能力の抽出活動を目的としていると述べた。
したがって、Opus 5.5 が Huawei の AI アクセラレータを含む最先端のモデル開発リクエストを検出した場合、制限メカニズムには明らかな技術的および地理的背景がある可能性があります。ただし、Anthropic がこの一連のルールを Huawei 向けに特別に設計したのか、それとも制限の範囲内に特定の種類の AI アクセラレータ全体が含まれているのかを示す証拠は現時点では不十分です。
本当に驚くべきことは、Amazon Trainium 3 も同様の影響を受けているようだということです。
Amazon は、世界的な大規模なクラウド コンピューティング企業であるだけでなく、Anthropic の重要なパートナーおよび投資家でもあります。 Anthropic の Claude モデル自体はアマゾン ウェブ サービスを通じて企業顧客に提供されていますが、Trainium シリーズはクラウド人工知能コンピューティングの Nvidia GPU への依存を減らすために Amazon が独自に開発した AI トレーニングおよび推論チップです。したがって、Opus 5.5 が最先端モデルのカーネル開発のために Trainium3 を制限した場合、Amazon は代わりに Huawei と同じ一連の技術的制限の影響を受ける可能性があります。
この状況が Anthropic によって意図的に行われたのか、それとも特定の AI チップを識別する際に分類器が予期せぬ誤った判断を行ったのかは不明です。関連するテストでは、Opus 5.5がさまざまなハードウェアプラットフォームを識別し、リクエストの内容に基づいて最新モデルを許可するかどうかを決定できるようであることが示されていますが、Anthropicは、Trainium3がHuawei 950DTと同時に制限を引き起こす理由を公的には説明していません。
Anthropic は以前、自社のモデルが AWS などのクラウド プラットフォームを通じて広く提供できることを強調しており、Opus 5.5 が Amazon Web Services、Google Cloud、Microsoft Azure などのプラットフォームに正式に導入されたため、この状況は特に注目に値します。将来、この制限が高度なモデルをトレーニングするためのより多くの AI アクセラレータに拡張される場合、クラウド コンピューティング企業と AI モデル企業の間のパートナーシップでは、モデルの機能、ハードウェア サポート、セキュリティ制約の間でより複雑な調整が必要になる可能性があります。
技術的な観点から見ると、今回の Anthropic のアプローチは新しいトレンドも反映しています。AI モデル自体が人間による次世代 AI モデルの設計と最適化を支援し始めると、モデルメーカーは「AI を使用してアプリケーションを開発する」と「AI を使用してより強力な AI を開発する」という 2 種類のタスクを区別し始める必要があります。
一般のプログラマにとって、アプリケーションの作成、コードのデバッグ、機械学習の実験の実施に Opus 5.5 を使用しても、通常は特別な制限が発生することはありません。しかし、同じモデルが次世代の最先端の大規模言語モデルの基礎となるコンピューティング コアの開発に使用された場合、Anthropic はこれが別のリスク レベルに入ったとみなして、リクエストを自動的に古いモデルにフォールバックさせる可能性があります。
これは、AI モデル自体が徐々に AI 研究開発インフラストラクチャの一部になりつつあることを意味します。以前は、モデルの使用を制限するということは、主に特定の危険なコンテンツや機密領域を制限することを意味していました。現在、モデルメーカーは、「誰が最新モデルを使用して次世代モデルを作成できるか」や「最新モデルは競合他社が自社の AI コンピューティング インフラストラクチャを最適化するのに役立つかどうか」などの問題をさらに検討し始めています。
現時点では、Anthropic は、Trainium3 が Huawei 950DT と同時に制限をトリガーする理由を公表していません。また、このメカニズムが将来のバージョンでも存在し続けるかどうかも明らかにされていません。独自の AI アクセラレータを開発し始める企業が増えるにつれ、特定のハードウェアおよび最先端のモデル開発タスクに対するこの制限が、AI モデルのメーカーがセキュリティ、機能蒸留の防止、ハードウェア エコロジーの間でトレードオフを図る際に直面する必要がある新たな問題となる可能性があります。
コメント