Perplexity Computer はこの夏、重要なアップグレードを導入します。これは、プライバシー保護とコンピューティング パフォーマンスのバランスをより良く保つハイブリッド推論機能を実現するために、ローカル AI モデルとクラウド AI モデル間でタスクを自動的に割り当てるためのサポートです。
Perplexity によると、Perplexity Computer は、複雑なタスクを処理するためにさまざまなモデルやツールのオーケストレーションを自動化することで、「ユーザーに代わって実際の作業を行う」同社のエージェント システムです。間もなく登場する新機能により、システムは、タスクの種類とデータの機密性に応じて、デバイス上でローカルに実行されるコンパクトなモデルと、クラウド上のより強力な最先端のモデルとの間でインテリジェントに切り替えることができるようになります。公式の紹介によると、この設計は機密データを処理する際に可能な限りローカルに保つことを目的としており、同時に強力なコンピューティング能力が必要な場合にはクラウド モデルをシームレスに呼び出すことができるため、セキュリティと効率のバランスを取ることができます。
レポートによると、新しい「ハイブリッド エージェント推論」モードでは、財務記録、健康情報、個人ファイルなどの機密コンテンツを含む作業は、ユーザーのデバイス上で実行されるローカルの小規模モデルによって優先順位が付けられ、ローカル処理のためにどのデータを厳密に保持する必要があるかが決定されます。同時に、高度なプライバシーは必要ないが、より強力な推論とラージコンテキスト機能を必要とするタスクは、実行のためにクラウド内の最先端のモデルに自動的に割り当てられます。 Perplexity は、現実世界のほとんどのタスクには機密性の高い部分とそうでない部分の両方が含まれることが多いため、ユーザーが事前に「ローカル」モードと「クラウド」モードのどちらかを選択する必要はなく、システムが自動的にタスクをいくつかのサブタスクに分割し、ローカルとクラウドの間でスケジュールを調整することを強調しています。
Perplexity は、ソーシャル プラットフォームで公開されたビデオでこのハイブリッド アーキテクチャの概念をさらに実証しました 公式情報筋によると、ハイブリッド AI オーケストレーション機能は 7 月に Perplexity Computer ユーザー向けに正式に開始される予定です。