要約:
世界のテクノロジー業界が人工知能インフラストラクチャの構築を増やすにつれて、新たなボトルネックが徐々に出現しています。問題は、先進的なチップを購入できないことではなく、たとえ大量の高性能 GPU を入手したとしても、それらを稼働させるのに十分な電力がデータセンターにない可能性があることです。
報道によると、Amazon のクラウド コンピューティング部門 AWS は、Nvidia の最新 AI サーバー システムを前例のない速度で購入しています。社内計画によれば、AWSは一時、約50億米ドル相当のNVIDIA GB300サーバーラックを受領する見込みだったが、今後も月額約30億米ドル規模で関連機器の購入を継続する計画だという。ただし、一部の機器は納入後すぐに使用されず、倉庫や移送施設に一時保管されます。
この現象の理由は、需要が不足していることではなく、一部のデータセンターにはすでに設置スペースがあるものの、これらの高出力 AI システムを駆動するのに十分な電力供給能力が不足していることが原因です。業界では、購入したものの一時的に動作できなくなったこのタイプの機器を「ダーク GPU」と呼びます。この概念は、電力やインフラストラクチャの制約によりアイドル状態になっているハードウェアを指すことも、導入されているものの十分に活用されていない AI コンピューティング リソースを表すために使用することもできます。
ここ数年、人工知能業界が直面している主な課題は、高度なチップの供給が逼迫していることです。大手テクノロジー企業はエヌビディアのGPU割り当てをめぐって競争しており、チップはしばしば不足している。しかし、企業がサプライチェーンのリソースを事前に確保すると、新たな制約が送電網やエネルギーインフラに移り始めます。大規模なデータセンター運営者にとって、安定した適切な電源へのアクセスは、チップへのアクセスと同じくらい重要になってきています。
将来のチップ競争で遅れをとらないようにするために、Amazon は調達モデルを調整しました。これまでの手順によれば、企業は通常、稼働準備が整ったデータセンターに到着した後にサーバー ラックを正式に受け取り、支払いを行います。新しい「ラックの早期受け取り」メカニズムの下で、Amazon は、たとえ最終的な稼働場所に機器がまだ設置されていない場合でも、受け取りと支払いのプロセスをより早く完了します。
このアプローチは、希少なハードウェア リソースを事前に確保するのに役立ちますが、企業が事前に多額の資金を投資する必要があることも意味し、これらのデバイスは正式にオンラインになって顧客にクラウド コンピューティング サービスを提供するまで収益を生み出すことができません。その結果、巨額の設備投資と収益の遅れとの間の緊張が高まっています。
Amazon は今年、AI とクラウド コンピューティング インフラストラクチャに約 2,200 億米ドルの設備投資を計画しており、これは多くの同業他社の規模を上回ります。同時に、同社のフリーキャッシュフローは大きな圧力にさらされており、近年初めてマイナスに転じた。 AWS にとって、たとえ一部の機器が一時的に動作できなくなったとしても、主要なハードウェア リソースを事前に占有することは戦略的な選択とみなされます。
アナリストは、AI 業界の現在の開発の焦点が変わりつつあると指摘しました。 2 年前、業界は誰がより多くの NVIDIA GPU を入手できるかに焦点を当てていました。現在、ますます多くの企業が、本当の希少資源はチップ自体ではなく、これらのチップの動作をサポートするために必要なエネルギーと電力ネットワークである可能性があることに気づき始めています。
AI モデルの規模が拡大し続け、コンピューティング能力の需要が拡大し続けるにつれて、電力供給、伝送容量、データセンターの建設サイクルが徐々に業界の発展に影響を与える重要な要素になりつつあります。一時的にアイドル状態になっている多数の GPU は、側面から見た現実も反映しています。つまり、人工知能の競争は、チップを巡る戦いであるだけでなく、エネルギーとインフラストラクチャーを巡る戦いでもあるのです。
コメント