要約:
Framework は、AMD Ryzen AI Max+ PRO 495 プロセッサを搭載した新しい Framework Desktop の予約注文を 9 月 30 日に正式に開始しました。ローカル AI コンピューティング用のこのミニ デスクトップ コンピューターの価格は非常に高く、DIY バージョンは 6,799 米ドルからとなっていますが、製品の最初のバッチはオンライン公開後数時間以内にすぐに完売しました。これは、大規模な AI モデルをローカルで実行するための大容量ユニファイド メモリに対する強い需要があることを示しています。
Framework が発表したフラッグシップ構成は、コードネーム「Gorgon Halo」という新世代プロセッサである AMD Ryzen AI Max+ PRO 495 を使用し、192GB LPDDR5X-8533 ユニファイド メモリを搭載しています。以前の Framework Desktop の最大構成 128 GB と比較して、新しいバージョンでは一度に 64 GB のメモリが追加され、モデルの重みを頻繁に SSD に入れたり、複数のコンピュータを介してクラスタを形成したりすることなく、大規模なローカル AI モデルを 1 台のマシンに直接ロードできるようになります。
Ryzen AI Max+ PRO 495 は、最大加速周波数 5.2 GHz の 16 コア Zen 5 CPU を使用し、64 MB のレベル 3 キャッシュ、デフォルトの TDP 55 W、最大 120 W の cTDP、および統合 Radeon 8065S GPU を備えています。 CPU と GPU は統合メモリを共有します。これが、この製品がローカル AI 推論に特に適している重要な理由の 1 つです。 Frameworkによれば、192GBのメモリにより、これまで一般消費者向けPCではメモリに完全にロードすることが困難だった大規模なモデルを実行できるようになるという。
以前の Ryzen AI Max+ 395 と比較して、PRO 495 はメモリ容量が増加するだけでなく、CPU と GPU のクロック周波数も高く、ユニファイド メモリ レートが 8533 MT/s に増加します。 Framework は、これらの変更により AI の推論速度がさらに向上すると述べています。
今回 Framework が提供する 192GB バージョンには、DIY Edition とプリインストール システムの完全なホスト バージョンが含まれています。 DIY Edition の価格は 6,799 ドルからで、192 GB のユニファイド メモリが含まれますが、プリインストールされたストレージはありません。すでに SSD を所有しているユーザー、または独自のストレージ ソリューションを選択したいユーザーの場合、この構成によりコストを一部削減できます。
完全なプレインストール バージョンを選択した場合、価格は 7,449 ドルになります。このバージョンには 2TB NVMe PCIe 4.0 SSD が追加され、Fedora 44 KDE Plasma Edition オペレーティング システムがプリインストールされています。言い換えれば、2TB SSD とプリインストールされたシステムを追加するだけで、マシン全体の価格は DIY バージョンよりも 650 ドル高くなります。
比較のために、Ryzen AI Max+ 395 と 128GB メモリを搭載した現行の Framework Desktop の価格は約 3,449 米ドルです。新しい 192GB バージョンにはメモリが 50% 増加し、プロセッサがアップグレードされていますが、DIY バージョンの価格は元の 128GB バージョンのほぼ 2 倍です。
このような価格の高騰は、メモリ市場で最近続いている緊張に直接関係しています。 Framework はこれまでに、大容量 LPDDR5X メモリのコストが大幅に上昇しており、特に 128G ビットの高密度メモリ粒子の供給が逼迫していることを何度も述べてきました。これは大容量ユニファイド メモリ デバイスのコストに非常に明白な影響を与えています。したがって、この 192GB バージョンの価格は、以前の Framework Desktop の通常構成よりもはるかに高くなっています。
実際、Framework は、製品が正式に予約注文を開始する前に、メモリ在庫が限られているため、最初は 192GB Gorgon Halo システムのバッチしか提供できないと述べていました。 9月30日に予約を開始すると、初回生産分はすぐに完売した。 Frameworkは後に、同社が追加のメモリバッチを確保することに成功したため、限定された予約注文の第2バッチを開始したと発表した。
第 2 弾の製品は 11 月から出荷される予定です。ただし、Framework はまた、今後数バッチの製品の価格と市場投入までの時間は、メモリ サプライヤーのコストと供給量に依存することを消費者に思い出させます。同社は、Framework Desktop の価格が今後数か月間上昇し続ける可能性があることさえ明らかにしました。
ローカル AI ユーザーにとって、192 GB のユニファイド メモリはこのマシンの最大の魅力です。従来の PC は通常、大規模な AI モデルを実行するために独立したグラフィックス カード メモリに依存しますが、ハイエンド GPU のメモリ容量は通常 1 枚のカードによって制限されます。モデルをビデオ メモリに完全に配置できない場合は、データ交換にシステム メモリ、さらには SSD を使用する必要があり、パフォーマンスに大きな影響が出る可能性があります。
Framework Desktop は、CPU、GPU、AI コンピューティングがユニファイド メモリを共有するアーキテクチャを採用しており、大量のメモリを GPU に直接割り当てることができます。 192GB の容量は、ユーザーが約 4.5 リットルの小型コンピューターで非常に大規模なローカル モデルを実行できることを意味します。フレームワークによると、追加の64GBのメモリにより、より大きな単一モデルをロードできるだけでなく、2つの小さなモデルを同時にメモリに保存できるため、より高速なモデルが主な対話を担当し、より有能だが遅い別のモデルが複雑な問題に対処できるようになります。
Framework はまた、この構成が AI を完全にローカルで実行したいユーザーにとって魅力的であることを特に強調しています。モデルは、データをクラウドにアップロードせずにローカル デバイスに残すことができます。プライバシー、ソース コード、または機密性の高いビジネス データが関係するシナリオでは、ローカル運用によりクラウド AI サービスへの依存を減らすことができます。
ただし、192 GB のユニファイド メモリは、3,000 億のパラメータ レベルのモデルすべてが高速で実行できることを意味するわけではありません。モデルのサイズ、量子化方法、コンテキストの長さ、実際のメモリ使用量はすべて、最終的なパフォーマンスに影響します。大容量メモリは「モデルをインストールできるか」という問題を解決し、モデルの推論速度は GPU の計算能力、メモリ帯域幅、ソフトウェアの最適化にも依存します。
Framework Desktop の全体積はわずか約 4.5 リットルであるため、このマシンは従来の意味での通常のミニ PC よりも非常に小さなローカル AI ワークステーションに近いものになります。 AI コンピューティングに加えて、ゲーム、開発、Linux デスクトップ作業などのタスクも引き受けることができ、Framework はモジュラー設計コンセプトを引き続き強調しています。
現在、Framework Desktop はすでに 32GB、64GB、128GB などのさまざまなメモリ構成を提供しており、192GB バージョンはローカル AI ユーザー向けの製品ライン全体の主力モデルとなっています。 AMD がユニファイド メモリ容量と AI コンピューティング機能の向上を続けるにつれて、この「CPU + GPU + 大容量共有メモリ」アーキテクチャも、大規模な言語モデルをローカルで実行するための重要なルートになりつつあります。
192GB Framework Desktop の最初のバッチは、開始価格が 6,799 ドルであったにもかかわらずすぐに完売しました。これは、一部の AI 開発者やローカル モデルの愛好家が大容量ユニファイド メモリ デバイスに対する非常に強い需要を持っていることを示しています。ただし、製品の最初のバッチ自体はメモリの供給によって制限されるため、完売は市場全体の一般的な需要規模を直接表すものではありません。この製品がさらに普及できるかどうかを決定する本当の鍵は、今後のメモリの価格、供給、および大規模 AI モデル用のローカル ハードウェアの需要です。
コメント