NVIDIA は、Micron の世界最速の HBM3e メモリを搭載した新しい H200Hopper GPU をリリースしました。新しい人工知能プラットフォームに加えて、NVIDIA は、現在 ExaflopJupiter スーパーコンピューターに搭載されている GraceHopper スーパーチップによるスーパーコンピューティングの大きな勝利も発表しました。
NVIDIA の H100 GPU は、業界で最も需要の高い人工知能チップですが、NVIDIA は顧客にさらに高いパフォーマンスを提供したいと考えています。 HGXH200 は、H200TensorCoreGPU によって駆動される最新の人工知能ハイパフォーマンス コンピューティング プラットフォームです。これらの GPU は、ハードウェアとソフトウェアの両方に最新の Hopper 最適化テクノロジーを搭載しており、これまでで世界最速のメモリ ソリューションを提供します。
NVIDIAH200GPU には、最大 141 GB の容量と 4.8 TB/秒の帯域幅を備えた Micron の HBM3e ビデオ メモリ ソリューションが搭載されています。 NVIDIAA100と比較して、帯域幅は2.4倍、容量は2倍になりました。 Llama2 (700 億パラメータ LLM) などのアプリケーションでは、この新しいメモリ ソリューションは、H100 GPU と比較して NVIDIA の AI 推論パフォーマンスをほぼ 2 倍にします。
ソリューションの面では、NVIDIAH200GPU は 4 ウェイおよび 8 ウェイ GPU 構成の HGXH200 サーバーで広く使用されます。 HGX システムの 8 ウェイ H200 GPU 構成は、32PetaFLOPs の FP8 コンピューティング パフォーマンスと 1.1TB のメモリ容量を提供します。
GPU は既存の HGXH100 システムとも互換性があるため、顧客はプラットフォームをアップグレードしやすくなります。 ASUS、ASRockRack、Dell、Eviden、GIGABYTE、Hewlett Packard Enterprise、Inglas (Ingrasys)、Lenovo (Lenovo)、QCT、Wiwynn (Wiwynn)、Supermicro (Supermicro)、Wistron (Wistron) などの NVIDIA パートナー、これらのメーカーは、2024 年の第 2 四半期に H200GPU が発売されるときに、更新されたソリューションを提供します。
H200 GPU の発表に加えて、NVIDIA は GraceHopper スーパーチップ (GH200) を搭載した大規模スーパーコンピューター プロジェクトも発表しました。このスーパーコンピューターは「Jupiter」と呼ばれ、ドイツのユーリヒ強制収容所にあります。これは欧州ハイパフォーマンス コンピューティング共同事業 (EuroHPC 共同事業) の一部であり、Eviden と ParTec によって契約されています。このスーパーコンピューターは、材料科学、気候研究、創薬などの分野で活用される予定です。これは、Nvidia が 11 月にリリースした 2 番目のスーパーコンピューターでもあります。以前のものは、最大 21 エクサフロップスの人工知能パフォーマンスを提供できる Isambard-AI でした。
Jupiterスーパーコンピュータは構成的にはEviden社のBullSequanaXH3000をベースにしており、完全水冷アーキテクチャを採用している。合計 24,000 個の Nvidia GH200 GraceHopper スーパー チップが搭載されており、同社の Quantum-2 Infiniband を通じて相互接続されています。各 Grace CPU に 288 個の Neoverse コアが含まれていることを考慮すると、Jupiter には CPU だけで 700 万近くの ARM コア (正確には 691 万 2000 個) があることになります。
パフォーマンス指標には、AI トレーニングの場合は 90Exaflops、ハイパフォーマンス コンピューティングの場合は 1Exaflops が含まれます。このスーパーコンピューターは 2024 年に設置される予定です。全体として、これらは、Nvidia が強力なハードウェアおよびソフトウェア テクノロジーで人工知能の世界をリードし続ける中で、将来に向けた大きなアップデートとなります。