要約:
OpenAI は火曜日、自社開発の人工知能チップ「Jalapeño」（ペッパー）がタスク完了効率と応答速度の点で他の現在の人工知能システムよりも優れていると述べたブログ投稿を公開しました。 OpenAIのハードウェア担当バイスプレジデント、リチャード・ホー氏はメディア記者らとの会見で、従来の人工知能システムは通常、これら2つの指標の間でトレードオフを図る必要があるが、ハラペーニョは低遅延と高スループットの「両方」を実現していると述べた。
このチップは今年 6 月に初めて発表されました。これは、OpenAI と Broadcom が共同開発した特定用途向け集積回路 (ASIC) です。これは主に人工知能推論タスク、つまりトレーニングされたモデルを実行してタスクを実行したりエージェントを展開したりするために設計されています。
パフォーマンス テストの観点から、OpenAI は InferenceX と呼ばれるベンチマーク テスト プラットフォームを使用します。これは、推論タスクを処理する人工知能システムの能力を評価するために使用できます。このテストでは、Jalapeño を当時最高のパフォーマンスを発揮した Nvidia GB200 および GB300 スーパーチップと比較しました。結果は、GPT-OSS 120B、DeepSeek R1、および Kim K2.5 1T の 3 つのモデルで、Jalapeño は比較システムよりもワット当たり 1.5 ～ 1.9 倍多くの人工知能作業を完了でき、エンドツーエンドの遅延は 1.7 ～ 3.6 倍減少することを示しています。これは、このチップがユーザーに「需要の増加に応じて、より高速な応答、より応答性の高いインテリジェンス、より信頼性の高いアクセス エクスペリエンス」を提供できることを意味するとホー氏は述べた。
OpenAI は、今年末までにハラペーニョを「小規模バッチ」で導入し、2027 年に生産能力を段階的に拡大する予定ですが、同社は来年の具体的な導入数は明らかにしていません。パフォーマンスの向上にもかかわらず、ホー氏は、OpenAIが既存のチップラインナップ全体をハラペーニョに置き換えるつもりはないと強調し、同社の全体的なコンピューティングパワー戦略には依然としてNvidiaなどの「質の高いパートナー」が含まれていると述べた。 OpenAI はこのチップの第 2 世代と第 3 世代の製品の開発を継続すると報告されています。
コメント