要約:
マイクロソフトは、第 3 世代の自社開発人工知能チップ Maia 300 を正式に発表し、Copilot などの製品やサービスの背後にある AI 推論タスクをサポートするために、2027 年から運用環境に導入する予定です。 Microsoft は、現在の主要な GPU システムと比較して、Maia 300 は電力 1 メガワットあたり 40% 多くのトークンを処理できることが期待されると述べました。 96 個のアクセラレータで構成される完全なラック構成では、ラックレベルのトークン スループットは前世代の Maia 200 の最大 7 倍になります。
このリリースは、Microsoft の自社開発 AI チップへのさらなる投資を示すものです。人工知能サービスの利用が拡大し続ける中、Microsoft は自社設計のアクセラレータを通じて運用コストを削減し、エネルギー効率を向上させ、Nvidia や AMD などのサプライヤーからの GPU への依存を軽減したいと考えています。
Microsoft のクラウド コンピューティング ビジネス担当エグゼクティブ バイスプレジデントである Scott Guthrie 氏は、同社は 2027 年から Azure Maia シリーズ チップの導入規模を数ギガワット レベルに拡大し、これを Microsoft 製品およびサービスの主要な AI 推論システムにする計画であると述べました。
この目標は、Microsoft が自社開発チップを既存のインフラストラクチャの一部から、自社の AI サービスをサポートするコア コンピューティング プラットフォームに段階的にアップグレードしたいことを意味します。ただし、これは Microsoft が Nvidia または AMD からの GPU の購入を完全にやめるという意味ではありません。 Microsoft は、さまざまなコンピューティング機能を必要とするトレーニングや推論タスクに複数のハードウェア プラットフォームを使用し続ける可能性があります。
Maia 300 は Microsoft の Maia シリーズの第 3 世代製品であり、今年 1 月の Maia 200 の発表後に発売された次世代チップでもあります。 Maia 200 は現在、Microsoft Copilot、GitHub Copilot、Microsoft Foundry、Microsoft が自社開発した人工知能モデルなど、Microsoft の複数の運用環境で AI ワークロードに使用されています。
ガスリー氏は、実際の AI サービスの運用指標から判断すると、Maia 200 はすでに Microsoft 社内で最もパフォーマンスの高い AI インフラストラクチャの 1 つであると述べました。新世代の Maia 300 は、絶えず変化する AI ワークロード、特に長いコンテキストの推論、レイテンシーの影響を非常に受けやすいリアルタイムの会話、および複数のステップを継続的に実行する AI エージェント タスクを処理する必要があるワークロード向けに特別に設計されています。
これらのアプリケーションは、従来の AI 推論とは異なるハードウェア要件を課します。
大規模な言語モデルがプログラミング アシスタント、エンタープライズ オートメーション、複雑なタスクの実行で徐々に使用されるようになっているため、AI システムが処理する必要があるコンテキストはますます長くなり、1 つのタスクに含まれるモデルの呼び出しやツールの操作がますます増えています。クラウド サービス プロバイダーの場合、モデル自体のパフォーマンスに加えて、応答遅延、同時リクエストの数、メモリ容量、各推論の実際のコストも考慮する必要があります。
したがって、Maia 300 の設計の焦点は、ピークのコンピューティング能力を高めるだけでなく、継続的に稼働する実際のビジネス環境における全体的な効率を向上させることにもあります。 Microsoft は、チップ アーキテクチャを特に最適化して、新世代の推論モデルや AI エージェントによって生成されるコンピューティング負荷の処理により適したものにしたいと考えています。
チップ製造に関して、Maia 300 は TSMC の N2P 高度なプロセスを採用し、コアベースの設計アーキテクチャを導入しています。単一の大きなチップ上にさまざまな機能を統合する従来の設計と比較して、コアチップアーキテクチャでは、コンピューティング、メモリコントローラ、入出力などの機能を異なるモジュールに分割し、それぞれの特性に応じて設計できます。
Microsoft Azure ハードウェアおよびインフラストラクチャ チームは、この設計により、チップ内のより多くのシリコン領域をコンピューティング パフォーマンスに使用できると同時に、さまざまな機能モジュールがそれぞれのニーズにより適したテクノロジを採用できると述べました。
このアイデアには実際的な意味があります。 AI アクセラレータの場合、コンピューティング ユニットは重要ですが、コンピューティング ユニット、メモリ、外部デバイスの間でデータがどのように送信されるかも全体的なパフォーマンスに影響します。計算機がデータの到着を待つ必要がある場合、理論的な計算能力が高くても、その性能を十分に発揮することはできません。
マイクロソフトは、コンピューティング、メモリ制御、入出力機能を個別に最適化することで、チップの全体的なリソース利用効率を向上させ、パフォーマンス、消費電力、製造コストのより良いバランスを実現したいと考えています。
先進的なプロセスの使用は、トランジスタ密度とエネルギー効率の向上にも役立ちますが、チップの最終的なパフォーマンスは、マイクロアーキテクチャ、メモリ サブシステム、相互接続設計、ソフトウェアの最適化などの複数の要素に依存します。現在、Maia 300 によって公開されているパフォーマンス データは主に Microsoft 自身の導入によるものであり、実際の効果はさまざまなモデル、ワークロード、導入条件に基づいて評価する必要があります。
AI 推論の分野では、トークンのスループットはシステム効率を測定するための重要な指標の 1 つです。トークンは、テキストを処理するときに大規模な言語モデルで使用される基本的なデータ単位であり、通常は単語、単語の断片、またはその他のテキスト単位に対応します。システムが単位時間当たりに処理できるトークンの数は、同時にサービスを提供するユーザーの数と、タスクを完了するために必要なコンピューティング リソースに直接影響します。
Microsoft は、Maia 300 が主要な GPU システムよりもメガワットあたり 40% 多くのトークンを処理できると予想しています。これは、同じ電力バジェットの下で、Microsoft は同じサービス機能を提供しながら、より多くの AI リクエストを処理するか、電力消費を削減することが期待されていることを意味します。
大規模なデータセンターを持つクラウド サービス プロバイダーにとって、この効率向上は大きな経済的価値をもたらす可能性があります。 AIデータセンターは高価なアクセラレータを購入する必要があるだけでなく、電源、冷却、ネットワーク機器、インフラ構築のコストも負担しなければなりません。モデルの使用量が増加し続けるにつれて、電力供給とデータセンターの容量が AI サービスの拡大を制限する重要な要因になりつつあります。
ただし、メガワットあたりのトークン効率が AI チップを測定する唯一の指標ではありません。さまざまなモデルのパラメーターのスケール、コンテキストの長さ、精度設定、推論方法はすべてテスト結果に影響します。 Maia 300 や NVIDIA GPU などの製品を総合的に比較するには、レイテンシー、モデルの互換性、ソフトウェア エコシステム、導入コスト、実際のビジネスでの安定性なども考慮する必要があります。
Microsoft は、さらに魅力的な指標も発表しました。96 個のアクセラレータで構成される完全なラック構成では、Maia 300 のラックレベルのトークン スループットは、Maia 200 の最大 7 倍に達する可能性があります。
この図は、Microsoft が単一チップの効率を向上させるだけでなく、ラック全体のコンピューティング能力を最適化したいと考えていることを示しています。ただし、これは特定の構成におけるラックレベルのスループットについて説明しています。これは、Maia 300 がすべてのタスクにおいて Maia 200 よりも 7 倍高速であることを意味するものではなく、各チップのパフォーマンスが同じ割合で向上したと直接推測することもできません。
クラウド コンピューティング プラットフォームの場合、ラックレベルのパフォーマンスが特に重要です。実際のデプロイメントは通常、多数のアクセラレータで構成され、チップは高速相互接続を介してデータを交換し、モデル要求を共同処理します。単一のチップが強力であっても、相互接続の帯域幅、メモリ容量、またはスケジューリング効率が不十分な場合は、システム全体が制限される可能性があります。
そのため、マイクロソフトは、プロセッサーの理論上の計算能力を単に追求するのではなく、チップ設計、ラック構成からソフトウェア、モデルの動作環境に至るまで全体的な最適化を実施しようとしています。
Microsoft AI 責任者のムスタファ・スレイマン氏は、同社はチップ設計を含むテクノロジースタック全体の底から投資を開始する必要があると述べた。同氏は、AIサービスがこれほど巨大な規模に達すると、マイクロソフトは独自のプラットフォームを持ち、チップと自社開発モデルを共同設計して最適化できるようにする必要があると考えている。
同氏は、Microsoft が自社開発した AI モデルを Maia チップ上で実行できるようにすることが Microsoft AI チームにとって重要なタスクであると特に強調しました。
この声明は、マイクロソフトの自社開発チップ開発のもう 1 つの目標、つまりハードウェア、モデル、クラウド サービスを組み合わせて、より緊密な協力関係を形成することを明らかにしています。
従来のクラウド サービス プロバイダーは、汎用 GPU を購入することで AI モデルを展開できますが、独自のアクセラレータを設計できれば、独自のモデルのコンピューティング特性、メモリ要件、推論プロセスを最適化できます。その結果、モデル チームはチップ アーキテクチャに応じてモデルの構造と操作方法を調整できるため、全体の効率が向上します。
Google と Amazon は長年にわたり、自社開発の AI チップに投資してきました。 Google は一連の TPU アクセラレータを持っており、Amazon は独自のクラウド コンピューティングや人工知能サービスをサポートするために Trainium などのチップを開発しました。 Microsoft は、このような競争を背景にインフラストラクチャ機能を強化するために Maia シリーズを立ち上げました。
Microsoft にとって、自社開発チップの戦略的価値は、調達コストを削減するだけでなく、サプライ チェーンの自律性を向上させ、データ センターのエネルギー利用を最適化し、AI モデルとサービスが迅速に反復される際のハードウェア設計の制御を強化できることです。
現在、Microsoft は NVIDIA と緊密な協力関係を維持しており、NVIDIA GPU は AI のトレーニングと推論の分野で重要な役割を果たし続けています。 MicrosoftによるMaiaシリーズの同時開発は、両者の関係が根本的に変化することが避けられないことを意味するものではないが、大手クラウドサービスプロバイダーが自社開発チップやマルチベンダー戦略を通じて単一のハードウェアプラットフォームへの依存を減らしていることを反映している。
マイクロソフトはまた、自社開発のチップを使用して AI モデルの競争力を向上させたいと考えています。 Suleiman氏は、MaiaプラットフォームはMicrosoftのAI技術システムの重要な部分であり、同社が独自のモデルをさらに開発し、Google DeepMind、OpenAI、Anthropicなどの競合他社に対する競争力を向上させるのに役立つと述べた。
AI モデルが単純なテキスト生成ツールから、ツールを呼び出して複雑な操作を実行できるエージェント システムに徐々に進化するにつれて、ハードウェア インフラストラクチャの重要性も高まっています。ロングコンテキスト推論とマルチステップタスクの実行には、多くの場合、より長い計算プロセスと多数のモデル呼び出しが含まれます。パフォーマンス、レイテンシ、コストのより良いバランスを達成することによってのみ、企業は持続可能な方法でサービスを拡張できます。
Maia 300 は、このトレンドに対応して設計されました。 Microsoft は、Copilot、GitHub Copilot、および将来の AI エージェント サービスに対するコンピューティング サポートを提供しながら、スループットとエネルギー効率の向上により、より多くの AI タスクを低コストで実行できるようにしたいと考えています。
しかし、Maia 300 が真に Microsoft の AI インフラストラクチャの主力となるためには、チップの製造、システム統合、大規模導入に至るまでのプロセスを経る必要があります。 Microsoftは2027年に運用を開始し、段階的に導入規模を拡大する計画だ。それまでに、チップの実際の生産能力、システムの安定性、ソフトウェアの適応、既存のデータセンターとの統合がすべて、最終的なアプリケーション範囲に影響を与えることになります。
全体として、Maia 300 の発売は、Microsoft が AI チップを補助的なインフラストラクチャ プロジェクトから独自の人工知能戦略の中核コンポーネントに引き上げていることを示しています。 TSMC の高度なプロセス、コアの粒度の高い設計、推論ワークロードのシステムレベルの最適化を利用することで、Microsoft は電力単位あたりに提供できる AI サービス機能を向上させ、外部 GPU サプライヤーへの依存を軽減したいと考えています。
Microsoft が 2027 年の計画通りに Maia 300 の実稼働導入を拡大し、実際のビジネスで期待される効率向上を達成できれば、この一連のチップは AI コンピューティングのコストを制御し、サービス規模を拡大するための重要なツールとなることが期待されます。しかし、その長期的な競争力は、最終的には実際の運用パフォーマンスと、マイクロソフトがハードウェア、モデル、ソフトウェアの間で持続的かつ効果的な協調最適化システムを確立できるかどうかにかかっています。
コメント