要約:
クアルコムは最近、Snapdragon 8 Elite Gen 6 Pro の AI 処理機能の詳細を発表しました。その中で最も注目に値するのは、新しい Hexagon NPU のアップグレードです。これまで純粋に AI コンピューティング能力の向上を追求していたのとは異なり、クアルコムは今回、AI モデルの動作、メモリ アクセス、消費電力制御の効率にさらに注目し、次世代の主力携帯電話で大規模な生成 AI モデルと AI エージェントをローカルで実行できるようにしたいと考えています。
クアルコムは、生成 AI が徐々にスマートフォンの重要な機能になるにつれて、AI モデル自体もより大規模かつ複雑になり続けていると述べました。モバイル デバイスの場合、本当のボトルネックはコンピューティング能力だけではなく、限られた消費電力とメモリ帯域幅の中でこれらのモデルを効率的に処理する方法にあります。したがって、Snapdragon 8 Elite Gen 6 ProのNPUは多くの点で再設計されています。
重要なアップグレードの 1 つは、新しい Element Accelerator です。この専用のハードウェア アクセラレーション ユニットは、AI コンピューティングの特定の操作向けに最適化されており、関連するワークロードを実行する際の NPU の効率を向上させることができます。 NPU のピーク計算能力を単に高めるのと比較して、この特殊な設計により、チップはより少ないリソースで特定の AI タスクを完了できるため、計算プロセスでのエネルギー消費が削減されます。
新世代の Hexagon NPU では、より大きな共有メモリも獲得しています。クアルコムは、大規模共有メモリ容量が前世代と比較して50％増加したと述べた。高速共有メモリのこの部分により、NPU は AI モデルの実行中に必要なデータをより簡単に保存できるようになり、システム メモリへの頻繁なアクセスの必要性が軽減されます。
この変更は、大規模な言語モデルにとって特に重要です。生成 AI を実行する場合、モデルは大量のコンテキスト データを継続的に処理する必要があり、その一部は推論中に保持する必要があります。このデータが NPU とシステム メモリの間で頻繁にやり取りされると、遅延が増加し、消費電力が増加します。クアルコムは、NPU 内で直接使用できる高速共有メモリを追加することで、このデータ処理を可能な限り削減したいと考えています。
大きな恩恵を受けたオブジェクトの 1 つは KV キャッシュです。ユーザーが AI アシスタントと継続的に会話する時間がますます長くなっているため、モデルはますます多くのコンテキスト情報を保存する必要があります。それに応じて KV キャッシュのサイズも増加し、大規模なモデルをローカルで実行する場合に重要なメモリ負荷となることがよくあります。共有メモリが大きくなると、より関連性の高いデータをコンピューティング ユニットの近くに配置できるため、AI の推論効率が向上します。
クアルコムは、この機能が AI エージェントにとって特に重要であると考えています。従来の質疑応答型 AI と比較して、AI エージェントはユーザーのニーズの理解、実行計画の策定、さまざまなツールの呼び出し、返された結果の分析など、複数のステップを継続的に完了してから次のステップに進む必要があります。プロセス全体を通じて、モデルの状態とコンテキストを継続的に保存する必要があるため、メモリ アクセスを減らすことでレイテンシが短縮され、複雑な AI タスクをよりスムーズに実行できるようになります。
クアルコムによる NPU の改善は、将来携帯電話で AI を実行する場合、問題を解決するためにシステム RAM の増加に単純に依存する必要がないことも意味します。ローカル AI モデルがますます大規模になるにつれて、携帯電話メーカーは近年、主力製品のメモリ容量を増加し続けています。ただし、RAM を増やすと、ハードウェアのコストが増加するだけでなく、消費電力も増加し、メモリ供給への圧力も増加します。クアルコムは、より多くのデータをチップ内の高速共有メモリに配置することで、アーキテクチャレベルでこの問題を軽減しようとしている。
NPU に加えて、Snapdragon 8 Elite Gen 6 Pro の CPU と GPU も大幅にアップグレードされました。クアルコムは以前、新世代のフラッグシッププラットフォームのCPU周波数が最大5GHzになることを明らかにしていた。現在発表されている情報に従ってこの仕様が最終的に実装されると、スマートフォンのCPUの最高周波数が正式に5GHz時代に突入するため、モバイルプロセッサの非常に象徴的なノードとなるでしょう。
クアルコムは、CPU 用の FlexCache テクノロジーも導入しました。また、中心的なアイデアは、プロセッサの外部システム メモリへの依存を減らし、チップの内部キャッシュをより柔軟に使用して、CPU がより効率的にデータを取得できるようにすることです。最新のモバイル プロセッサでは、キャッシュとメモリ間のデータ アクセス効率がますます重要になっているため、この設計により、パフォーマンスとエネルギー効率のバランスをある程度改善できます。
GPU にも大幅なアーキテクチャの変更が加えられています。クアルコムは、新世代の Adreno GPU を、従来のグラフィックス パフォーマンスを向上させるだけでなく、AI タスクを実行する GPU の能力をさらに強化する非常に重要なアーキテクチャのアップグレードであると説明しています。
重要な変更の 1 つは、行列計算専用のコアである Adreno Matrix コアの追加です。行列演算は最新の AI モデルにおける重要なタイプの計算であるため、専用の行列コアは GPU が AI 関連の作業をより効率的に実行するのに役立ちます。
これは、将来の Snapdragon の主力プラットフォームがすべての AI 計算を NPU に引き渡さないことを意味します。特定のタスクに応じて、CPU、GPU、NPU はそれぞれ異なる種類の作業を実行できるため、より明白な異種コンピューティング システムが形成されます。ゲームの場合、GPU は従来のグラフィックスのレンダリングを完了しながら AI 計算の一部を実行できます。一方、生成 AI などのワークロードでは、NPU がより重要な役割を果たす可能性があります。
クアルコムは、AI とグラフィックス レンダリングの組み合わせをさらに強化するために、Adreno Neural Fusion テクノロジーも発表しました。この技術は、AI アルゴリズムを使用してゲーム画面の視覚効果を向上させ、消費電力を制御しながら、より高度なグラフィック処理効果を達成するのに役立ちます。
この設計は、超解像やフレーム生成など、近年急速に発展している AI グラフィック技術に特に適しています。モバイル ゲームの解像度と画像の複雑さは増加し続けています。すべての画像がネイティブ レンダリングに従来の方法に依存している場合、GPU の負荷と消費電力が急速に増加します。 AI を使用して画像情報の一部を生成することで、より低いレンダリング コストでより高い最終画像品質を実現できます。
全体的なアーキテクチャの観点から見ると、Snapdragon 8 Elite Gen 6 Pro の AI アップグレードは、単に NPU を高速化するだけではなく、SoC 全体内のデータ処理方法を再設計しようとしています。 NPU には、より大きな共有メモリと専用アクセラレータが搭載されています。 CPU は FlexCache を通じてシステム メモリへの依存を軽減し、GPU は特殊なマトリックス コンピューティング機能を追加し、AI テクノロジーを通じてグラフィックス処理に参加します。
この変更は、モバイル チップが新たな段階に入りつつあることを反映しています。以前は、主力 SoC のパフォーマンスを測定する際、主に CPU と GPU の実行スコアに注目していましたが、現在では AI ワークロードがチップの実際のエクスペリエンスを決定する重要な要素となっています。次世代の携帯電話にとって本当に重要なことは、チップのピーク演算能力をどれだけ高くできるかだけでなく、限られた消費電力で AI モデルを長時間実行できるかどうか、異なる演算ユニットとメモリ間のデータの移動を効果的に制御できるかどうかです。
クアルコムが共有メモリとメモリ アクセスの削減に特に重点を置いているということは、AI 時代のチップ競争が単純な「計算能力戦争」から「データ転送効率戦争」へと徐々に移行しつつあることを示しています。大規模な AI モデルの場合、計算自体が重要ですが、モデルのパラメーター、コンテキスト、中間結果を適切なコンピューティング ユニットにタイムリーに送信する方法も、最終的なパフォーマンスとエネルギー消費に直接影響します。
したがって、Snapdragon 8 Elite Gen 6 Pro で本当に注目すべき点は、個々の AI パフォーマンスがどれだけ向上したかではなく、クアルコムが NPU、CPU、GPU、キャッシュ、共有メモリ間の緊密な連携を通じて、携帯電話がますます複雑な AI タスクをローカルで処理できるようにしようとしているということかもしれません。
AI アシスタント、AI エージェント、生成アプリケーション、および AI ゲーム機能が徐々に主力携帯電話の重要な部分になるにつれて、このアーキテクチャのアイデアは将来のモバイル SoC 開発の重要な方向性になる可能性があります。システム RAM を継続的に増加させるのと比較して、チップ内のより効率的なデータ処理およびキャッシュ メカニズムを通じて拡大し続ける AI モデルを消化することにより、パフォーマンス、消費電力、コストの間でより合理的なバランスが達成されることが期待されます。
Snapdragon 8 Elite Gen 6 Pro が最終的にこれらの技術目標を達成できるかどうかは、実際のデバイスの発売後に完全なテストを通じて検証する必要があります。しかし、これまでに公開された情報から判断すると、この世代のクアルコムの主力プラットフォームのアップグレードの焦点は非常に明確です。AI の計算を高速化するだけでなく、AI の計算をより効率的にし、ローカル AI を実行するために携帯電話のメモリと電力消費コストを最小限に抑えることも目的です。
コメント