8年前のV100、100ドルでコンシューマー向けカードを上回るAI性能
データセンターから流出した8年前のNVIDIA Tesla V100が、わずか100ドルで中古市場に並んでいる。サーバー専用のSXM2規格という壁さえ越えれば、最新の民生GPUを上回るAI推論性能を、より低い電力で叩き出している。
データセンターから流出した8年前のNVIDIA Tesla V100が、わずか100ドルで中古市場に並んでいる。サーバー専用のSXM2規格という壁さえ越えれば、民生GPUを上回るAI推論性能を、より低い電力で叩き出している。
100ドルのGPUが3060を抜き去った
事の発端は、ハードウェア系YouTuberの「Hardware Haven」が公開した検証動画だ。eBayで100ドルで購入した16GBのTesla V100を、中国製アダプタでPCIeスロットに挿し、民生GPUとAI推論性能を比較した。結果は、想定を超えるものだった。
GPT-OSS 20Bモデルを使ったOllamaの推論テストで、V100は毎秒約130トークンを生成した。比較対象として用意されたRadeon RX 7800 XT(16GB)のシステムは毎秒約90トークン。4割の差をつけたことになる。
NVIDIAアーキテクチャ同士の比較ではさらに興味深い結果が出ている。Gemma 4 E4Bでの検証では、V100が毎秒108トークン、RTX 3060 12GBが毎秒76トークン。Ampere世代より2世代古いVolta世代が、AI推論という土俵で4年新しい民生カードを上回った。
効率も負けていない、むしろ勝っている
「データセンター向けGPUは電気を食う」というのが通説だが、この検証ではその常識も覆された。V100システムは推論時にウォールから293Wを消費し、RTX 3060システムは235W。絶対値ではV100が消費電力は多い。
ところが、ワットあたりのトークン生成数では、V100が0.37、RTX 3060が0.33と逆転する。消費電力が大きくても、それを上回るペースで仕事をこなしているわけだ。
さらに驚いたのが、nvidia-smiコマンドで電力上限を100Wまで絞った時の挙動だ。V100は毎秒95トークンを維持し、システム全体の消費電力は170Wに収まった。RTX 3060を同じ100W上限にしても毎秒68トークンしか出ない。電力効率の差は 41% にまで開く。
一般的に古いGPUほど電力効率で新世代に劣るとされる。だがAI推論というワークロードに限れば、HBM2の広帯域メモリとTensor Coreの第1世代実装を持つV100は、いまだに勝負できる土俵を持っている。
SXM2という壁、そして中国製アダプタという解
ここまでの数字を見ると、なぜV100が100ドルで投げ売られているのか不思議に思える。答えはGPUの形状にある。
Tesla V100には2つの形状がある。一般的なPCIeカード版と、データセンター向けのSXM2モジュール版だ。SXM2はNVIDIAがサーバー専用に作った独自規格で、コンシューマー向けマザーボードには絶対に刺さらない。電力供給もNVLink接続も独自設計で、一般的なPCではどう逆立ちしても動かない。
PCIe版のV100は中古市場でも1000ドル超えで取引されるケースが多い。同じチップを積んだSXM2版が10分の1の価格で流通している理由は単純で、買っても挿す場所がないからだ。
そこに目を付けたのが中国の小規模メーカーだ。SXM2をPCIe x16に変換するアダプタボードが、約100ドルで流通している。Hardware Havenが組んだセットは、GPU本体・アダプタ・3D印刷した冷却シュラウド・Noctuaの80mmファン・税込みで合計235ドル。日本円にしておよそ3万7000円だ。
ただし、注意点もある。アダプタ経由ではNVLinkは使えず、PCIe接続のみ。SXM2が本来持つGPU間の高速通信は完全に封じられる。シングルGPU運用が前提の構成になる。
SXM2はNVIDIAのデータセンター向け独自規格で、SXM、SXM2、SXM3と世代を重ね、最新のSXM 6まで続いている。アダプタ越しに動かす行為は、本来の設計思想からは完全に外れた使い方だ。
賞味期限という時限爆弾
ここで冷静に見ておきたい論点がある。V100は2017年6月発売の製品だ。NVIDIAは公式に「レガシードライバー」のブランチでしかサポートしていない。
そしてもう一つ、より深刻な問題がある。Volta世代はCUDA 13でサポート対象外になる。現時点でllama.cppなどの主要な推論エンジンはCUDA 12でも動作するが、今後出てくる新しいモデルや最適化が、必ずしもV100で動く保証はない。
32GBモデルなら400ドルから500ドル程度で入手できる。16GBの倍以上のメモリは、より大きなLLMを動かす時に効いてくる。ただし、CUDAの世代交代をどこまで耐えられるかは未知数だ。買って数年後に「もう動かない」状態に陥るリスクは、新品の民生カードよりも明らかに高い。
中古AIインフラ市場が立ち上がろうとしている
この話の本質は、V100が安いことではない。データセンターで役目を終えたAI向けGPUが、個人の手に届く価格で中古市場に流れ込み始めたということだ。
考えてみてほしい。OpenAIやAnthropic、Google、Metaがこの数年で投じたAIインフラ投資の総額は、すでに数千億ドル規模に達している。これらのGPUは永遠に使われ続けるわけではない。新世代のH100、B100が主流になれば、A100が中古に出てくる。さらに新しい世代が出れば、H100が流れ始める。
すでに、SXM 4(A100世代)やSXM 5(H100世代)のPCIe変換アダプタも市場に出始めている。V100アダプタほど安くはないが、確実に存在する。AI業界の競争が激化するほど、データセンターの世代交代も早くなる。個人がLLMを動かす環境のコストは、新品ではなく中古から崩れていく可能性がある。
もちろん、いい話ばかりではない。電気代、騒音、冷却の手間、そして何より時限爆弾を抱えたままのドライバーサポート切れ。すべてを承知した上で、自分の手を動かして遊べる人にとってのみ、この市場は開かれている。
それでも、AI推論を個人で抱えたい人にとって、選択肢が確実に広がっていることは間違いない。プラグアンドプレイの快適さを諦める代わりに、新品のRTX 5070を買う予算で、はるかに巨大なモデルを動かせる環境を組める。データセンターの世代交代が、個人のAI環境にも届き始めた。
参照元
