NVIDIA の Blackwell GB300 および GB200 グラフィックス プロセッサは、継続的な技術最適化を通じて、さまざまな人工知能ワークロードにおいて優れたパフォーマンスを実証し続けています。新世代の AI プラットフォームが世界中で展開され続ける中、外部の世界は NVIDIA が Rubin アーキテクチャに焦点を移すのではないかと推測しているかもしれません。しかし、今年の Hopper アーキテクチャと同様に、数え切れないほどのデータセンターで実用化されている Blackwell シリーズは、継続的なソフトウェアのアップグレードを通じて、依然として驚くべき可能性を解放していることがわかりました。その中でも、GB300 は人工知能コンピューティング タスクにおいて新たな最高パフォーマンスを記録し続けています。
NVIDIA が発表した公式データによると、Blackwell プラットフォームの継続的な最適化により、全体のパフォーマンスとエネルギー効率が大幅に向上しました。 NVIDIA は、DeepSeek R1 0528 - 1K/1K ワークロードを実行している同じ GB200 NVL72 構成で、わずか 3 か月でメガワットあたりのスループットを 4 倍も増加させました。この間、同社は 250,000 を超えるシミュレーション構成を実行し、合計 140 万 GPU テスト時間を消費することにより、Blackwell プラットフォームに 38 の主要な最適化を追加しました。最適化結果の 90% 以上が他の人工知能モデルに適用できることは注目に値します。これは、新しいプラットフォームの人気が徐々に高まる中、既存の AI プラットフォームへの多額の投資を維持するという NVIDIA の取り組みを完全に示しています。
一方、NVIDIA の GB300「Blackwell Ultra」プラットフォームは、引き続き人工知能トレーニングの分野を支配しています。 256 GPU を使用して DeepSeek-V3 671B モデルを実行すると、その Megatron Core コアは GPU あたり 1,648 Terops という驚異的な記録を打ち立て、GB200 606 Terops と比較して 3 倍のパフォーマンスの飛躍を達成しました。 GB300 NVL72 を使用して DeepSeek-V3 671B を事前トレーニングすると、GPU あたり 1648 Terops という世界記録の動作効率を達成でき、同じトレーニング タスクがハードウェア スケールのほんの一部で所定のパフォーマンスを達成できるようになります。同時に、同じ GB300 NVL72 システムのパフォーマンスも、継続的な最適化により過去 6 か月で最大 1.5 倍向上しました。
さらに、NVIDIA は、人工知能製品マトリックスにおけるさまざまな最適化結果の完全な実装を促進するために、PyTorch および JAX オープン ソース コミュニティとの綿密な協力も開始しました。 PyTorch のネイティブ トレーニング スタック TorchTitan を使用して DeepSeek-V3 671B モデルを実行すると、Blackwell Ultra ラックは初期最適化なしで最大 6 倍のパフォーマンス向上を達成しました。 JAX フレームワークはさらに大幅な成長を遂げました。その速度は GPU あたり 1025 Terops にまで上昇し、単一 GPU のスループットは 1 秒あたり最大 4082 トークンに達します。今年1月のベースラインと比較すると、10倍の性能向上を達成した。
それだけでなく、NVIDIA は、事前トレーニング用のすべての主流フレームワークにおいて、256 基から 1024 基の GPU まで世界クラスのスケーリング パフォーマンスを達成しました。 1024 GPU の規模に達すると、Megatron Core は最大 98.5% の拡張効率を維持でき、TorchTitan と JAX フレームワークの拡張効率も 97% のレベルを維持します。この優れた拡張パフォーマンスをサポートするコア コンポーネントは、各 NVL72 ラック内に統合された NVIDIA 800Gb/s スケールアウト ネットワーク チップです。モデルのトレーニングから推論の展開に至るまで、NVIDIA は人工知能の分野で常に新しいベンチマークを設定しています。 Rubin プラットフォームはすでに市場に投入されており、パフォーマンスの大幅な向上をもたらしているため、他の競合他社が追いつくために大きなプレッシャーに直面していることは間違いありません。