要約:
NVIDIA は最近、IFA 2026 中に Personal AI Router (PAIR) ベータ版を正式に開始しました。これは無料のオープンソース ソフトウェアです。これは従来の意味でのネットワーク ハードウェア ルーターではなく、ローカル AI 推論のための「仮想ルーター」です。同じ LAN 内の互換性のあるコンピューターを自動的に検出し、複数のデバイスのアイドル状態のコンピューティング能力を整理し、AI エージェントとローカルの大規模モデル タスクにより十分な推論リソースを提供できます。
NVIDIA が発表した 5 人の子エージェントのデモンストレーションも、このアプローチの効果を反映しています。 hermes デスクトップと Ollama を使用すると、3 台のデバイスで構成される PAIR クラスターがタスクを完了するのに 8 分 48 秒かかりましたが、1 台の RTX Spark ノートブックでは 18 分かかりました。 NVIDIA は、これはホーム ネットワーク内の複数のデバイスのアイドル状態のコンピューティング能力を利用することで、ローカル マルチタスク AI のスループットを大幅に向上できることを示していると考えています。
PAIR の背後にある重要な判断は、ホーム ユーザーは多くの場合、特定のコンピューティング機能を備えた複数のコンピューターをすでに所有しているものの、これらのデバイスはほとんどの時間アイドル状態であるということです。 Nvidia が引用したデータによると、米国の世帯の半数以上が 2 台以上のコンピューターを所有しているため、多数の GPU やその他のコンピューティング リソースが 1 日のかなりの時間十分に活用されていないことがわかります。ゲーム コンピューター、ラップトップ、その他の高性能デバイスを所有する家庭向けに、PAIR は、これらの元々独立したデバイスを、ローカル AI に共同でサービスを提供できるコンピューティング リソースのプールに変換することを試みます。
NVIDIA 技術チームは、極端な場合には、家庭内に約 165 TFLOPS の空きコンピューティング能力が存在する可能性があると推定しています。担当者は、十分に活用されていないローカルのコンピューティング能力を「自宅にある遊休トークンリソース」と表現しました。ただし、NVIDIA は、PAIR に本当に適している一般的なユーザーは、そのような大げさなデバイス サイズを必要としないことを期待しています。より現実的な構成は、MacBook または Windows ノートブックにゲーミング PC を加えたものかもしれません。
NVIDIA は今回、PAIR に加えて、ローカル AI エージェントの導入エクスペリエンスをさらに簡素化することも発表しました。 Perplexity Portable Computer、Hermes Agent、OpenClaw を含む 3 つの AI エージェント ソフトウェアは、NVIDIA GPU のよりシンプルなローカル構成方法を提供します。以前は、ユーザーは多くの場合、モデルを選択し、互換性のある推論サーバーを見つけ、量子化パラメーターを調整し、さまざまな構成を完了する必要がありました。新しいソリューションでは、このプロセスを数回のクリックに圧縮することが期待されています。
その中で、Perplexity Portable Computer はこれまで、Linux システム上の少なくとも 24 GB のビデオ メモリと DGX Spark を搭載した NVIDIA RTX GPU で実行可能であり、Windows バージョンも開発中です。これにより、ユーザーはより多くのワークフローをオンプレミスに保持し、追加の検索機能やより強力な推論機能が必要な場合にクラウド モデルの使用を選択できるようになります。システムはコンテンツをクラウドに渡す前にユーザーの同意を取得します。
Hermes Agent は、Nous Research によって開発された汎用 AI エージェントです。 Windows バージョンのローカル構成は、ワンクリック モデルの展開をサポートします。ソフトウェアは、NVIDIA GPU を自動的に識別し、ハードウェアに応じて適切なモデルと構成を選択し、統合された NVIDIA に最適化された llama.cpp を通じて実行できます。 Linux のサポートは後日開始される予定です。実行後、Hermes はツールを呼び出し、タスク間でコンテキストを維持し、さまざまなセッションからの情報を記憶し、使用するにつれて再利用可能なスキルを蓄積できます。
OpenClaw には、Windows 向けの簡素化された展開ソリューションも用意されています。 Nvidiaによると、OpenClawはオープンAIエージェントエコシステムにおいて重要なプロジェクトとなっており、GitHub上のプロジェクト規模はスター数38万個を超えているという。新しい Windows アプリケーションでは、ローカル モデル構成のしきい値が低くなり、少なくとも 24 GB のビデオ メモリ NVIDIA RTX GPU を搭載したユーザーがローカル AI アシスタントを起動しやすくなります。
ローカル AI エージェントの応答速度をさらに向上させるために、NVIDIA は llama.cpp と vLLM の推論の最適化も同時に発表しました。新しいカーネルの最適化、より高度な投機的デコード、および高速なプリフィル処理に基づいて、GeForce RTX 5090 上の llama.cpp のスループットは最大 1.9 倍に増加します。 vLLM のパフォーマンスは、RTX PRO 6000 Blackwell Workstation Edition では最大 1.2 倍、2 つの DGX Spark で構成されるクラスターでは最大 1.4 倍向上できます。これらの最適化は、対応する推論バックエンドを通じてすでに利用可能であり、LM Studio および Ollama でも利用できます。
Nvidia は今回、RTX Spark プラットフォームを搭載した新しい Windows 小型 AI コンピューターが 10 月に発売される予定であることも明らかにしました。これらのローカル AI 指向のハードウェア、推論ソフトウェア、AI エージェント ツールが徐々に成熟するにつれて、NVIDIA は従来のクラウド AI の異なる使用方法を明らかに推進しています。ユーザーはすべてのタスクをリモート データ センターに送信する必要はなく、自宅の GPU やその他のデバイスを直接使用して、独自のローカル AI コンピューティング環境を構築できます。
PAIR はまだベータ段階にあり、プロジェクトはオープンソースとしてリリースされました。開発者はソースコードを表示し、問題を送信し、改善に参加できます。 NVIDIA は、PAIR を通じて、ローカル AI が「モデルを実行する単一の高性能コンピューター」から「AI ワークロードを共有する複数の家庭用デバイス」に段階的に移行し、ローカル AI エージェントがさらに普及した後の新しいコンピューティング モデルになる可能性があることを期待しています。
コメント