NVIDIA のミニ AI スーパーコンピューター DGX Spark は、つい最近正式に発売され、開始価格は 3,999 米ドル (約 28,396 元) でした。しかし、id Software の共同創設者である John Carmack 氏は最近ソーシャル メディアで、DGX Spark の実際の消費電力とパフォーマンスは公式のプロモーション値よりもはるかに低いと述べました。
彼と一部の研究者は、NVIDIA DGX Spark が定められたパフォーマンス目標を達成できていないように見えることを観察しました。DGX Spark の消費電力は 240 W とされていますが、Carmack 氏によると、デバイスの消費電力は定格の半分にも満たない約 100 W に過ぎないことがわかりました。
システムは、BF16 ワークロードでは約 60 TFLOPS、FP4 ワークロードでは約 480 TFLOPS のパフォーマンスしか達成できず、予想される出力を大幅に下回りました。
それだけでなく、100Wレベルでもデバイスは非常に熱くなる可能性があり、少なくとも1人のユーザーが長時間実行中に自動再起動を報告していると付け加えた。
Apple の MLX フレームワークの主任開発者である Hannun 氏は、Carmack 氏に返信して、自身のベンチマークでも同様の結果が得られたことを認めました。
Hannun は、PyTorch と MLX を使用した場合、BF16 での DGX Spark の持続的なパフォーマンスはわずか約 60 TFLOPS であり、NVDIA が宣伝している FP4 パフォーマンスの 1 PFLOPS よりもはるかに低いことを発見しました。
DGX Spark は、MediaTek の ARM CPU と NVIDIA 独自の Blackwell GPU を組み合わせた、GB10 スーパー チップをベースとした「ミニ ワークステーション」システムとして位置付けられています。