要約:
Google は最近、人工知能チップ製品ラインの拡大と、TPU 8tx および TPU 8i Max というさまざまなアプリケーション シナリオ向けに特別に設計された 2 つの新しいテンソル プロセッシング ユニット (TPU) の発売を発表しました。これら 2 つの製品は、Google の既存の第 8 世代 TPU アーキテクチャに基づいて開発されており、データ セキュリティと大規模な人工知能推論タスクに対する企業顧客の高まるニーズを満たすように設計されています。
その中で、TPU 8tx は、政府機関、金融サービス、医療健康、その他の厳しく規制されている分野など、プライバシー保護とデータ セキュリティに対する非常に高い要件が求められる業界に焦点を当てています。 Googleによると、この製品には機密コンピューティング機能が導入されており、データ処理中にモデルの重み付けや機密情報を保護し、不正アクセスへの暴露を回避しているという。
この目標を達成するために、TPU 8tx は AMD プロセッサと連携して動作し、暗号化機能をハードウェア レベルに深く統合します。計算を実行する前にメモリ内のデータを復号化する必要がある従来のソリューションとは異なり、新しいソリューションは機密データ処理中のセキュリティを大幅に向上させ、高セキュリティ AI システムを導入する企業のニーズを満たすことができます。
もう 1 つの新製品である TPU 8i Max は、非常に長いコンテキスト ウィンドウを必要とする大規模モデル アプリケーション向けに特別に設計されています。近年、生成型人工知能と AI エージェント技術の急速な発展に伴い、一度に大量のテキスト、コード、またはデータを処理する必要があるモデルが増えており、メモリ容量と推論パフォーマンスに対する要件が高まっています。
レポートによると、TPU 8i Max はコンピューティング能力とメモリ リソースを強化することで、より長いコンテキスト ウィンドウをサポートし、人工知能モデルが 1 回のリクエストでより多くのコンテンツを分析できるようになります。この機能は、複雑なコード生成、数学的推論、科学研究、医薬品開発などのシナリオで特に重要です。これにより、モデルがより多くの背景情報を保持し、タスク完了の品質を向上させることができます。
Google AI インフラストラクチャの責任者である Amin Wahdat 氏は、これら 2 つのチップは新しいアーキテクチャ製品ではなく、顧客のニーズを満たすために特別に最適化された既存の第 8 世代 TPU をベースにした派生モデルであると述べました。同社は、すべての市場ニーズをカバーしようとする汎用チップを開発するのではなく、特定のシナリオに合わせて複数のプロフェッショナル バージョンを作成し、ユーザーにより高い価値を提供する方が良いと考えています。
今年の初めに、Google は第 8 世代 TPU シリーズの TPU 8t と TPU 8i をリリースしました。前者は大規模なモデル トレーニング タスク向けであり、後者は低遅延推論向けに最適化されています。 TPU 8tx と TPU 8i Max がラインナップに追加されたことで、Google の第 8 世代 TPU ファミリは 4 つの製品に拡張され、モデル トレーニング、安全な推論、低遅延推論、超長時間コンテキスト推論などの複数のセグメントをカバーします。
アナリストらは、今回の新製品リリースは、人工知能インフラストラクチャが純粋にコンピューティング能力のスケールを追求することから、より実際のビジネスニーズを満たすことに移行しつつあることを反映していると指摘しました。 AI エージェント、エンタープライズレベルの生成 AI、ロングコンテキスト モデルの人気が高まるにつれ、セキュリティ、メモリ容量、推論効率がコンピューティング能力に次ぐ新たな競争上の焦点になりつつあります。
Google は当初、主に自社の人工知能サービスをサポートするために TPU を開発しましたが、現在はクラウド コンピューティング ビジネスの重要な部分として外部顧客にレンタル用に公開されています。現在、TPU は NVIDIA GPU に加えて最も重要な AI コンピューティング プラットフォームの 1 つとなっており、多くの大規模な人工知能企業やクラウド コンピューティングの顧客によって高度なモデルのトレーニングとデプロイに使用されています。
Google は、新モデルの発表により、人工知能インフラストラクチャ市場における競争力をさらに強化し、次世代 AI エージェントと複雑な推論システムに対して、よりターゲットを絞った基盤となるハードウェア サポートを提供したいと考えています。
コメント