OpenAI の自社開発チップは重要なブレークスルーを達成しました: 応答速度とエネルギー効率が Nvidia GB300 を上回りました

要約:

OpenAI は、自社の新しい「Jalapeno」チップがテストで Nvidia の現在の製品ラインナップよりも優れたパフォーマンスを発揮したと主張し、同社が独自の AI プロセッサの開発で成し遂げた進歩を強調しています。リチャード氏、OpenAI チップ事業責任者 ホー氏はインタビューで、このチップはNvidia GB300と比較され、テストではGB300が入手可能な中で最も先進的な製品であるとみなされたと述べた。テストでは、ハラペーニョは、消費電力単位あたりに処理できる AI ワークロードの量と応答速度の 2 つの指標で優位性がありました。

今回、OpenAI が Jalapeno を公開テストした際、独自の小型オープンソース モデル GPT‑OSS 120B と、DeepSeek および Moonshot AI のサードパーティ モデルを使用しました。 Moonshot のモデル Kim K2.5 1T では、ハラペーニョの利点がさらに明白です。

OpenAI は、内部テストで、まだリリースされていない大規模な先進モデルを実行した場合にも Jalapeno が良好なパフォーマンスを示したと述べました。これは、ワークロードがより大きく複雑になるにつれて、チップの設計の「価値がさらに高まる」ことを示唆している。

OpenAI は Broadcom と協力して Jalapeno を開発しました。同社は、今年後半から自社の AI モデルをサポートするためにこのチップを使用する予定です。これは、独自の AI インフラストラクチャを構築し、より大規模なチップの自主研究を促進する計画の一環です。

Broadcom は、多くの顧客向けにカスタマイズされたチップを製造しています。両社は昨年提携を発表し、今年6月には同プロセッサの開発スピードを「記録的なスピードで開発した」として精力的に宣伝していた。

現在、自社開発の AI チップを開発する企業が増えていますが、この分野では依然として NVIDIA が優位に立っています。

通常、一部のチップは AI タスクを実行する際の処理能力が高く、他のチップは迅速な応答に優れていますが、ハラペーニョは両方の長所を備えているとホー氏は言います。

OpenAI は、Jalapeno で実行する AI モデルを決定し、顧客がニーズに応じて低コストまたは高パフォーマンスのソリューションを選択できるようにします。

ホー氏は次のように述べています。「実験室テストでは、ハラペーニョは高スループット分野で優れたパフォーマンスを示しました。これは、低コストで多数の顧客にサービスを提供できることを意味します。同時に、低遅延分野でも良好なパフォーマンスを示しました。つまり、応答速度を重視する顧客にとって、その応答時間は非常に高速になることになります。」データセンターにとって、電力は最も重要なコストの 1 つです。

ハラペーニョは出荷が始まったばかりの Nvidia の最新世代 Vera Rubin チップではテストされていないことに注意してください。さらに、Jalapeno は AI モデルのトレーニング用に設計されておらず、トレーニングはまさに NVIDIA テクノロジーが最も得意とする分野の 1 つです。

Jalapeno は主に AI 推論段階を対象としています。つまり、モデルがトレーニングを完了した後、ユーザーのプロンプトに基づいて応答を生成し、タスクを実行します。速度の利点は、OpenAI が速度の利点を利用して、これまでは異なるメモリ タイプとチップ アーキテクチャを使用したプロセッサでしか達成できなかった効果を達成できることを意味します。

OpenAI は一部のモデルを実行するために依然として Cerebras テクノロジーに依存しており、このタイプのチップは小規模なモデルにより適しています。比較すると、Jalapeno ははるかに大きなモデルを処理できます。ホー氏は、OpenAIの技術が短期的にCerebrasなどのサプライヤーに取って代わることはないと述べた。

ホー氏は、「われわれのコンピューティング能力に対する需要は非常に大きい。そのため、さまざまなサプライヤーと契約を結んでいる。この状況はしばらく続くだろう」と語った。同氏は、OpenAIはAIチップ分野のイノベーションを促進するために研究開発の成果を公に展示したいと述べた。

他のスタートアップも同様の方向性を模索しています。 Etchedは先週、資金調達ラウンドで約210億ドルの評価額を確保し、低電圧チップの出荷を開始したと発表した。元 Google チップ従業員 2 人によって設立された MatX は、現在、高スループットと低遅延を組み合わせるという同じ目標を持った半導体製品を開発中です。

OpenAI はまた、チップ開発プロセスをスピードアップするために独自の AI モデルを使用したとも述べました。第 2 世代チップも、より詳細な研究開発段階に入っています。ホー氏は、同社はチップのテープアウトを「今後数カ月以内に」完了する予定で、その時点でチップ設計は最終段階に入るだろうと述べた。

同時に、OpenAI は、世界中で大規模に構築している AI インフラストラクチャのコストをさらに削減することを期待して、第 3 世代チップの設計を開始しました。ホー氏は次のように述べました。「現在、インフラストラクチャのコストを削減できるコスト レベルと消費電力レベルに到達しています。これは最初のステップにすぎません。」

OpenAI は自社開発チップを積極的に推進し、そのパフォーマンスを NVIDIA 製品と比較していますが、それでも OpenAI が NVIDIA を主要なチップ サプライヤーとみなしていることを特に強調しました。

「NVIDIA は非常に良いパートナーですが、私たちは依然として多くの NVIDIA チップを使用する必要があります。」