Meta が Apple と提携して 8,160 億パラメータの AI モデルを Mac Studio に導入

要約:

Meta は、オープンウェイト人工知能モデル Muse Spark Open を 10 月 15 日にリリースし、Apple と協力してモデルのローカル実行ソリューションを Mac Studio 向けに最適化しました。

このコラボレーションは非常に目を引きます。 AppleとMetaはこれまでプライバシーポリシー、プラットフォームルール、アプリケーションエコロジーにおいて大きな違いがあったが、今回は両社が共同してAppleハードウェア上でのオープンウェイトモデルの運用を推進した。 Meta CEOのMark Zuckerberg氏は、Apple CEOのJohn Ternus氏の協力への参加に感謝の意を表した。 Ternus 氏はまた、Muse Spark Open がデスクトップ デバイス上で効率的に実行できることを公に述べ、ローカル AI コンピューティングにおける Mac Studio の可能性を実証しました。

Muse Spark Open は、Meta Muse モデル ファミリのオープンウェイト バージョンです。リモート サービスを通じてのみアクセスできるクローズド モデルとは異なり、オープン ウェイト モデルでは、ライセンス条件に従って、ユーザーがモデルのウェイトを取得して自分でデプロイすることができます。これにより、開発者、研究者、企業は、動作環境をより細かく制御できるようになり、推論プロセスをニーズに合わせて調整できるようになります。

モデルには合計 8,160 億のパラメータがありますが、スパース アクティベーション設計が使用されており、推論ごとに約 420 億のパラメータのみがアクティベートされます。つまり、モデルは各トークンを処理する際にすべてのパラメーターを計算に含める必要はなく、タスクと入力内容に応じて対応する部分を呼び出します。この設計は推論計算量の削減に役立ちますが、モデル全体の重みを保存または管理する必要があるため、420 ​​億個のパラメーターに必要なメモリのみを使用してモデルを実行できるという意味ではありません。

コンテキスト ウィンドウは、Muse Spark Open のもう 1 つの重要な指標です。このモデルは 100 万のトークン コンテキストをサポートしており、理論的には非常に長いテキスト、コード ベース、または複数のドキュメントを 1 つのタスクで処理できます。ソフトウェア エンジニアリング タスクの場合、これはモデルが大量のソース コードと関連マテリアルを同時に参照する機会があり、コンテキストが不十分なために重要な情報が失われるリスクが軽減されることを意味します。ただし、実際に利用可能なコンテキストの長さ、処理速度、メモリ フットプリントは、依然として特定の実行コンフィギュレーションと推論フレームワークによって異なります。

Meta 氏によると、Muse Spark Open は Mac Studio 向けに最適化されており、Apple チップのユニファイド メモリ アーキテクチャを使用して実行できるとのことです。従来の個別グラフィックス システムでは通常、モデルの重みをビデオ メモリに配置する必要がありますが、Apple のユニファイド メモリ アーキテクチャにより、CPU と GPU が同じメモリ プールを共有できます。大容量のユニファイド メモリをサポートする Mac Studio では、GPU は最大 512 GB のユニファイド メモリにアクセスでき、大規模なオープンウェイト モデルを実行するためのハードウェア基盤を提供します。

Meta によると、2 台の Mac Studio が対応するソフトウェア フレームワークを通じて共同でモデルを実行できるため、システムには約 1TB のユニファイド メモリが搭載されます。各デバイスに搭載されている M5 Ultra チップのメモリ帯域幅は最大 1.2TB/s です。 Meta は、この構成により、スパース アクティベーション メカニズムを利用して、各トークン推論に必要なパラメーターの一部のみを読み取りながら、Muse Spark Open をローカルで実行できると考えています。

このソリューションの鍵は、単に 2 台のコンピューターを接続することではなく、ユニファイド メモリ アーキテクチャ、モデルのシャーディング、および推論フレームワークを通じて連携して動作することで、本来は大規模なコンピューティング インフラストラクチャを必要とするモデルをデスクトップ デバイス上で実行できるようにすることです。 Apple の MLX 機械学習フレームワークは Apple Silicon 上でのモデル実行を強化しており、Meta はそれに応じて Muse Spark Open に合わせて調整されています。

ただし、モデルをロードして実行できるということと、モデルが高速で実行できるという 2 つの概念を区別する必要があります。十分なメモリがあれば、非常に大規模なモデルの展開における大きな障害が 1 つ解決されるだけです。モデルのシャーディング、クロスデバイス通信、メモリ帯域幅、計算ユニットの使用率、およびコンテキストの長さはすべて、最終的な推論速度に影響します。今回メタが公開した情報では、モデルの動作性やハードウェア構成が強調されていたが、実際の性能を十分に判断できるほどの完全なベンチマークテストデータは提供されていなかった。

価格もこのプランの重要な制限です。 Apple は 512GB のユニファイド メモリを搭載した Mac Studio をまだ正式に発売していませんが、10 月末に発売される予定です。 256GB ユニファイド メモリを搭載した既存のハイエンド Mac Studio モデルの価格はすでに 10,000 ドルを超えているため、2 つの 512GB バージョンで構成されるシステムは高価な投資になることが予想されます。一般の個人ユーザーにとって、これは明らかに低コストのローカル AI ソリューションではありませんが、大規模なモデルを実行し、データ管理を重視する必要がある開発チームや研究機関にとっては、従来のサーバーの代替手段となります。

Meta 氏は、Muse Spark Open は Mac Studio 上で実行できるだけでなく、Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter、Togetter AI などの複数のクラウド AI プラットフォームを通じて呼び出すこともできると述べました。モデルの重みを自分でダウンロードしたいユーザーの場合は、Amazon SageMaker AI、Google Cloud Model Garden、Hugging Face、Microsoft Foundry Models を通じて関連ファイルを入手できます。

このモデルでは、制限のない一般的なオープンソース ライセンスではなく、限定的な商用利用を許可するライセンスを使用します。したがって、商用製品で使用する前に、開発者や企業は特定のライセンス条項を注意深く読み、導入方法、ユーザー規模、アプリケーションシナリオが要件を満たしているかどうかを確認する必要があります。

この協力は、ローカル AI コンピューティングの新たな開発の方向性も反映しています。以前は、数千億のパラメータを持つ大規模なモデルを実行するには、通常、複数のプロフェッショナル向け GPU、大量のビデオ メモリ、および複雑なサーバー クラスターが必要でした。 Apple は、ユニファイド メモリ アーキテクチャと高帯域幅チップを使用して、ハイエンド デスクトップ コンピュータが大規模なモデルをホストできるようにしようとしています。このアプローチはコストと推論パフォーマンスの点でまだ制限がありますが、すべてのデータをクラウドに送信したくないユーザーに新たな可能性をもたらします。

Apple にとって、Muse Spark Open は AI 開発分野における Mac Studio の位置付けを示すのにも役立ちます。モデルをローカルで実行しようとする開発者が増えるにつれ、ユニファイド メモリ容量と帯域幅がハイエンド コンピューターの AI 能力を測定するための重要な指標になってきました。 Apple は、M5 Ultra と MLX エコシステムを通じて、Mac がビデオ編集、3D デザイン、音楽制作に適しているだけでなく、ローカル AI 開発および推論プラットフォームにもなることを期待しています。

Meta にとって、オープンウェイト モデルのリリースと Apple ハードウェアでの実行のサポートは、Muse シリーズの開発者の対象範囲を拡大するのに役立ちます。ユーザーはニーズに応じてクラウド API またはローカル デプロイメントを選択でき、メタはモデルに基づいてアプリケーションやツールを構築するためにより多くの開発者を呼び込むこともできます。

全体として、Muse Spark Open の重要性は、8,160 億のパラメーターの数だけでなく、大規模なオープンウェイト モデルとハイエンドのデスクトップ ハードウェアを組み合わせる可能性を実証することにもあります。 512GB ユニファイド メモリを搭載した 2 台の Mac Studio はモデルに約 1TB のメモリ空間を提供できるため、ローカルでの実行に適していますが、実際のエクスペリエンスは推論速度、ハードウェア コスト、ソフトウェアの最適化によって決まります。

この協力は、通常のパーソナル コンピューターが非常に大規模なモデルを簡単に実行できることを証明するには十分ではありませんが、ローカル AI ハードウェアがより高いメモリ容量とより強力な共同コンピューティング機能に向けて開発されていることを示しています。モデル アーキテクチャと推論ソフトウェアの最適化が進むにつれて、これまでは大規模なデータセンターでしか導入できなかった一部の AI モデルが、将来的には徐々にスタジオ、研究室、開発者のデスクトップ環境に導入される可能性があります。