xAI、55万GPUの稼働率は11% 業界平均から大きな乖離
イーロン・マスクのxAIが持つ55万基のNVIDIA GPU。実際にAI学習で動いているのは約11%、6万基ほどにすぎない。同じAI業界でMetaは43%、Googleは46%を引き出している。この落差はどこから来るのか。
6万基だけが働き、49万基は遊んでいる
The Informationの報道によると、xAIのGPU稼働率は約11%にとどまっている。xAIが保有するNVIDIAのGPUは合計でおよそ55万基。H100とH200を中心とした構成で、テネシー州メンフィスのコロッサス（Colossus）クラスターと隣接サイトに分散している。
数字を読み解くと、こうなる。55万基のうち実際にAI学習に投入されているのは約6万基。残りの49万基相当が眠ったまま、本来の計算能力を引き出されないままアイドル状態に近い。
GPU1基の調達コストは数万ドル規模だ。ハードウェアだけで数十億ドル、日本円にして数千億円規模の遊休資産ということになる。投資効率の観点ではかなり厳しい。
GPU稼働率（utilization）：搭載されたGPUの計算リソースが、実際にAI学習などの有効な処理に使われている割合。残りはデータ待ち、通信待ち、同期待ちなどで止まっている時間。
業界平均は35〜45%、Meta・Googleは43〜46%
ただし、これはxAIだけの問題ではない。AI業界全体でGPU稼働率の典型的な水準は35〜45%程度とされている。MetaとGoogleはそれぞれ43%と46%を引き出しており、業界の上位グループに位置する。
つまり、最高の運用ができている企業でも半分は遊ばせている。xAIの11%という数字は、その業界平均からも大きく離れた位置にある。
なぜこれほどの差が出るのか。答えはソフトウェアスタックの成熟度に行き着く。
スケールが大きくなるほど、無駄も加速度的に増える
GPUを1000〜1万基のレンジで動かしているうちは、稼働率の問題は深刻にならない。しかし数十万基まで規模を広げると、状況は一変する。GPU同士のデータ通信、学習タスクの同期、ネットワークの輻輳、ストレージからのデータ供給。これらすべてのボトルネックが一斉に表面化する。
待ち時間は雪だるま式に膨らむ。1基あたり数秒の遅延でも、55万基かければ膨大な計算リソースの損失になる。
これはxAIだけの問題ではなく、AI業界全体に共通する構造的な課題だ。大規模学習の効率化は、ハードウェアを買うことよりもはるかに難しい領域になっている。
なぜMeta・Googleはうまくいっているのか
MetaとGoogleが業界平均を超える稼働率を出している背景には、長年積み上げてきた分散学習基盤の蓄積がある。両社とも10年以上、自社の検索や推薦システムのために巨大な分散コンピューティング基盤を運用してきた。
GoogleのTPU（自社開発のAI専用プロセッサ）向けスタック、Metaが公開したPyTorchベースの分散学習ツール群。これらは社内の実運用で何度も鍛え直されたコードであり、数十万基規模の最適化が織り込まれている。Googleは自社設計のTPUとセットで最適化されており、MFU（Model FLOPs Utilization、計算リソースの実効利用率）を高く保ちやすいという指摘もある。
xAIは2023年3月に設立されたばかりの新興企業だ。コロッサスの初期構築を122日で終わらせ、世界最速級のスピードでGPUを並べたが、ソフトウェアの最適化はまだ追いついていない。ハードの増設速度に、ソフトの成熟が間に合っていない。
xAIの目標は50% その道筋は
xAIはこの状況を放置するつもりはない。稼働率を50%まで引き上げる目標を掲げているという。明確なタイムフレームは示されていないものの、インフラとソフトウェアスタックの両面で改善を進める方針だ。
|
現状
11%
→
目標
50%
現状稼働（11マス）
目標までの差分（39マス）
目標到達後も残る余地（50マス）
|
注目すべきは、xAIが遊休GPUのレンタル提供に舵を切る可能性だ。
エージェント型AIが本格化する時代の将来ワークロードに備え、xAIは余剰GPUのレンタルサービスへの参入も視野に入れている。
自社の学習に使われていないGPUを外部のAI企業や研究機関に貸し出すモデルで、実現すれば余剰の計算資源を別の経路で稼ぎに変えられる。
並行して、マスクは独自シリコンの「テラファブ」（Terafab）プロジェクトを推進している。NVIDIAへの依存度を下げ、xAIやSpaceX向けの専用設計を進める動きだ。Intelの14Aプロセス活用も視野に入れており、長期的には自社設計チップでハードとソフトの両面を制御する構想を描いている。
この11%が示すもの
xAIの11%という数字は、AI業界全体に対する警告でもある。GPUを買えば計算能力が線形に増える、という素朴な前提はもう成り立たない。
数十万基のGPUを揃えても、それを使いこなすソフトウェアが伴わなければ、投資の大半は紙の上の数字にとどまる。ハードを買う競争から、買ったものを使い切る競争へ。AIインフラの軸足は、すでに移り始めている。
メンフィスの旧Electrolux工場跡に並ぶ55万基のGPU。そのうち49万基が、本来の力を発揮できないままアイドル状態に置かれている。
参照元
