Tesla V100でローカルLLM構築、32GB VRAMを266ドルで実現

過去のエンタープライズGPUをローカルの大規模言語モデル推論に再利用する試みが、愛好家コミュニティで注目を集めている。Tom’s Hardwareの報道によれば、計算機愛好家のOscar Molnar氏が、騒音が大きく旧世代となったNvidia Tesla V100 SXM2を266ドル（約4万2000円）で調達し、既存のゲーミングPCに追加した。これによりシステム全体のVRAM容量は32GBに倍増し、27BパラメータのLLMを32トークン/秒で実行できる環境を実現した。

プロジェクトの概要

Molnar氏が購入したのは16GBのHBM2メモリを搭載するTesla V100 SXM2モジュール。中古市場では現在、中国発送のeBay出品で140ドル以下の価格で入手可能だという。ただし、このGPUを一般のPCで使用するにはSXM2からPCIeへのアダプタが必要となる。Molnar氏は同様にeBayで約66ドルのアダプタを調達した。

既存のシステムにはNvidia GeForce RTX 4080（16GB VRAM、Adaアーキテクチャ）が搭載されており、これにVoltaアーキテクチャのTesla V100を追加することで、合計32GBのVRAMプールを構成した。Tesla V100は本来32GB版も存在するが、価格が倍になるため16GB版を選択している。

騒音問題と冷却改造

Tesla V100 SXM2の標準クーラーは極度の騒音を発生することで知られる。Molnar氏はその騒音を「garbage disposalと芝刈り機の中間」と表現し、実測82dBに達したと報告している。この騒音問題を解決するため、Molnar氏は冷却ファンの配線をマザーボードのPWMファンヘッダに直接接続する改造を施した。具体的には「2.54mmオス to PH2.0メス ジャンパーケーブル」を使用して配線を再ルーティングした。改造後はファンを10%の回転数で動作させるだけで、フルロード時でもGPU温度を50度未満に抑えられることが確認された。

ソフトウェア構成

異なるアーキテクチャのGPUを同時に使用するには、ドライバの互換性が課題となる。Molnar氏はNixOSを採用し、VoltaとAdaの両アーキテクチャをサポートするレガシーNvidiaドライバを利用することで、両方のGPUを認識させた。この構成により、RTX 4080とTesla V100のVRAMを統合的に活用できる環境が整った。

推論性能

構築後のシステムでローカルLLMをテストした結果、27Bパラメータのモデルが32トークン/秒で動作した。Molnar氏はこの速度を「インタラクティブ用途に十分な速さ」と評価し、多くのクラウドAPI代替より高速であると述べている。32GBのVRAMは現在のローカルLLM実行において実用的な容量であり、量子化された大型モデルや複数モデルの同時運用も視野に入る。

コスト対効果の評価

総投資額は266ドル（Tesla V100 200ドル未満＋アダプタ約66ドル）。現在のメモリ価格高騰（RAMpocalypse）局面において、32GBのVRAM増設をこの価格帯で実現できる点は注目に値する。既存の RTX 4080 ユーザーにとって、Tesla V100追加はVRAM容量を倍増させる現実的な選択肢となる。ただし、Tesla V100のVoltaアーキテクチャは最新のAIアクセラレーション機能（Tensor Coreの世代差など）を欠くため、性能面でのボトルネックが生じる可能性には留意が必要だ。

編集部の見解

この改造事例は、ローカルLLM実行におけるVRAM容量の重要性を明確に示している。短期間では、Tesla V100の中古市場価格が高止まりする可能性がある。同様の試みを行う愛好家が増えれば、需要が価格を押し上げるだろう。ただし騒音改造の難易度やドライバ互換性の問題は、参入障壁として機能する。今後3〜6ヶ月で、同様の中古エンタープライズGPUを活用したDIY LLM構築事例がさらに報告される可能性がある。 長期的な視点では、このような「ローカルLLM自作」の文化はGPUベンダーの製品戦略に影響を与えるかもしれない。コンシューマ向けGPUに大容量VRAMを搭載する製品が増えるきっかけになる可能性は否定できない。一方で、Tesla V100の推論性能は最新のコンシューマ向けGPUに劣るため、恒久的なソリューションとしては限界がある。1〜3年後には、専用AIアクセラレータやエッジデバイスがより現実的な選択肢になるだろう。 編集部としては、エンタープライズGPUの転用がLLM民主化の一翼を担う一方で、騒音や消費電力、冷却といった実用面の課題を軽視すべきではないと考える。

参考

• 「 AI enthusiast adds Nvidia Tesla V100 as loud as a lawnmower to gaming PC for $266 — 32GB of VRAM rig can run 27 billion parameter model at 32 tokens per second 」, by Mark Tyson — Tom’s Hardware, 2026-07-26T10:00:00.000Z (ARR)
• 元記事URL: https://www.tomshardware.com/pc-components/gpus/ai-enthusiast-adds-nvidia-tesla-v100-as-loud-as-a-lawnmower-to-gaming-pc-for-usd266-32gb-of-vram-rig-can-run-27-billion-parameter-model-at-32-tokens-per-second