要約:
Apple の最新の A20 Pro チップは、オンデバイス人工知能の分野でその真の可能性を実証しています。最新の実際のテストでは、A20 Proを搭載したiPhone 18 Proが270億個のパラメータを持つ大規模なAIモデルをローカルで実行でき、その生成速度が前世代のiPhone 17 Proの2倍であることが示され、携帯電話のローカルAI機能について外部から新たな注目が集まるきっかけとなった。
このテストは、開発者の Adrien Grondin によって実施されました。デモでは、iPhone 18 Pro で Bonsai 27B と呼ばれる 270 億パラメータのモデルが実行されました。このデバイスは、クラウド サーバーに依存せずにローカルで直接推論タスクを完了し、前世代の製品をはるかに超える応答速度を示します。
このパフォーマンスの飛躍を促進する中心的な要因は、A20 Pro の新しい人工知能ハードウェア アーキテクチャによるものです。 1 セットの 16 コア ニューラル ネットワーク エンジンのみを搭載していた以前の Apple チップとは異なり、A20 Pro は初めてデュアル 16 コア ニューラル ネットワーク エンジン設計を採用し、合計 32 個のニューラル ネットワーク処理コアを備えています。これは、Apple の自社開発チップ史上初めて、デュアル ニューラル ネットワーク エンジン アーキテクチャを採用したものでもあります。
ニューラル ネットワーク ユニットのアップグレードに加えて、メモリ システムもパフォーマンス向上の重要な部分です。 iPhone 18 ProとiPhone 18 Pro Maxはどちらも12GB、96ビット幅のLPDDR5Xメモリを搭載しており、前世代の製品よりも高い伝送速度とより大きなデータスループット容量を備えています。
テスト結果は、大規模な言語モデルを実行するときに、新しいニューラル ネットワーク エンジンと高速メモリ システムが相乗効果を形成し、トークン生成速度において A20 Pro に明確な利点が得られることを示しています。ローカル推論に依存する AI アプリケーションの場合、これは応答時間が短縮され、インタラクティブなエクスペリエンスがよりスムーズになることを意味します。
ただし、この画期的な進歩は、スマートフォンがすでにすべての大型モデルを制限なく実行できることを意味するものではありません。
研究者らは、A20 Pro は iPhone を 270 億パラメータ モデル時代に押し込むことに成功しましたが、ローカル AI は依然としてメモリ容量の制約を受けていると指摘しました。たとえば、2 ビット量子化圧縮を使用した後でも、新しくリリースされた Bonsai 2 モデルは依然として大きすぎるため、iPhone 18 Pro のローカル メモリ領域に完全にロードできず、パフォーマンスが低下します。
これは、携帯電話 AI の現在の開発における現実的な問題も反映しています。つまり、コンピューティング能力は急速に向上していますが、メモリ容量とモデル サイズとの間には依然として矛盾が存在します。チップの性能が向上し続けたとしても、モデル自体をデバイスのメモリに完全にロードできない場合は、実際の動作効率に影響を及ぼします。
対照的に、第 1 世代の Bonsai は 1 ビット量子化モデルであり、リソース要件が大幅に低くなります。開発者によれば、このタイプのモデルはメモリが 4GB しか搭載されていないデバイスでも実行でき、8GB または 12GB メモリのプラットフォームではより高いパフォーマンスを達成できるとのことです。
ハードウェア仕様の観点から見ると、A20 Pro にはデュアル ニューラル ネットワーク エンジンが搭載されているだけでなく、最大 115.2 GB/秒の統合メモリ帯域幅も備えています。一部のテストでは、ニューラル ネットワーク用に最適化されたワークロードでは、ニューラル ネットワーク エンジンのピーク スループット能力が、チップ内の 7 コア GPU のピーク スループット能力を上回ることが示されています。
この結果は、Apple が「デバイスサイド AI」戦略を加速していることを反映しています。クラウド データセンターに依存するのとは異なり、ローカル AI は応答時間の短縮、プライバシー保護の向上、オフラインでの可用性を実現できます。これらは、Apple が近年強調してきた開発の方向性です。
生成人工知能が徐々にスマートフォンの重要な機能になるにつれ、携帯電話メーカー間の競争も画像処理性能やプロセッサのベンチマークからローカル AI 推論機能へと移りつつあります。 A20 Pro のパフォーマンスは、スマートフォンが数十億、さらには数百億のパラメータ モデルを実行できる能力を持ち始めたことを意味します。
ただし、モデルのサイズは拡大し続けるため、メモリ容量が将来の開発にとって依然として大きな制限要因となる可能性があります。アナリストらは、Appleが将来的にiPhoneのメモリ構成をさらに改善すれば、大規模なAIモデルを実行するデバイスの能力は引き続き向上すると予想され、独立したAIコンピューティングプラットフォームとしての携帯電話の役割はますます重要になるだろうと考えている。
コメント