要約:
Anthropic は、IPO ロードショー中に、AMD AI アクセラレータの適応を支援するために Claude Mythos Preview を使用していることを明らかにしました。ある企業によると、Claude AI の内部モデルが AMD MI355X 上でプロンプト ワード処理を完了し、使用可能なパフォーマンス レベルに達するまでにわずか 3 日しかかかりませんでした。
クロードは、この取り組みにおいて人間の介入を最小限に抑えて、ほぼすべての GPU カーネル コードを移植または作成しました。この事件は、NVIDIA の CUDA ソフトウェア エコシステムと AI チップとの競合に関する議論を引き起こしました。 CUDA は NVIDIA の堀ですが、この堀が AI 時代にどこまで続くかはまだわかりません。
AI モデルが異なるチップ アーキテクチャで実行される場合、基礎となるコンピューティング コード、ソフトウェア スタック、ハードウェア機能に適応する必要があります。実用的なパフォーマンスを達成するために、エンジニアはマトリックス演算、メモリ アクセス、およびマルチチップ通信についても最適化することがよくあります。
ある企業は、同社の過去の経験に基づくと、従来のエンジニアリング手法を使用して新しいチップ プラットフォームを統合するには、通常、数十人のエンジニアが数か月 (実際には 6 ～ 12 か月) かかりますが、AI の参加により、このプロセスはわずか 3 日に短縮できると述べました。
Nvidia の CUDA は、多数の開発ツール、コンピューティング ライブラリ、GPU に最適化されたソフトウェアをまとめたもので、もともと特定のハードウェアに最適化されたコードを他のチップに適応させるには、大量のエンジニアリング リソースの投資が必要となるため、長い間 AI 開発の重要な基盤となってきました。
AI が基盤となるコードの移植に参加すると、エンジニアが GPU カーネルをより迅速に記述して調整できるようになり、企業がさまざまなチップ プラットフォームにアクセスするためのコストと時間が削減される可能性があります。現段階で、A 社が実際に採用しているチップには、NVIDIA、AMD、Google TPU、Amazon Trainium が含まれますが、これらに限定されません。
AMD と Anthropic は以前、AMD MI450 シリーズに基づいて最大 2GW の GPU コンピューティング能力を導入すると発表しました。最初の 1GW の導入は 2027 年前半に開始される予定です。また、両当事者は Claude を使用して AMD GPU ワークロードを最適化し、ROCm ソフトウェア開発を加速します。
コメント