
2026/07/13 22:48
最新のワークロードによる「電子廃棄物 GPU」15 機のパフォーマンスベンチマーク
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
1 年間のテストプロジェクトにより、廃止された企業用ハードウェアの再利用が高コスト削減の範囲内で高性能なホームラボコンピューティングを実現する有効な経路であることを検証した。具体的なベンチマークは、このエコシステム内の独自の優位性を明らかにしており、M60 は約 50 ドルという優れたコストパフォーマンスで Whisper のような音声認識タスクにおいて卓越しており、P40 は大規模言語モデル(LLM)の稼働においては P100 を上回る性能を示している。古いアーキテクチャはエンド・オブ・ライフであり、将来のドライバ更新がない点やトークンあたりの低電力効率という欠点はあるが、安価なアイドル状態での VRAM 源として残されている(例:K80 約 60 ドル、V100 200 ドル未満)。
アーキテクチャは X99 マザーボード搭載の Xeon E5 シリーズなどの低価格デュアルソケット CPU を利用し、レンダリングや科学計算(F@H、SHA-256)から AI ワークロードに至るまでを扱う多様な Docker コンテナスイートと組み合わせています。このアプローチはモダンなチップと比較して電力効率が低いことを受け入れ、常時稼働が求められる重要な企業環境には不向きであるものの、アイドル時に機器を電源オフにできる趣味家には最適なソリューションです。将来の開発では、Qwen2.5 などの高度なモデルにおける完全な線形スケーリング能力を引き出すためのソフトウェア構成の最適化に焦点を当て、これらのリソースがコミュニティにとってさらに強力になることを目指します。
本文
引退された NVIDIA エンタープライズ GPU:ホームラボベンチマークレポート
廃棄された NVIDIA エンタープライズ用 GPU は、安価で高容量な VRAM を確保するための主要な手段の一つです。現在入手可能な主なカードの価格は以下の通りです。
- K80 (24GB GDDR5): 約 60 ドル
- P100 (16GB): 約 75 ドル
- V100 (16GB): 200 ドル未満
これらのカードは欠陥や制限が存在する可能性がありますが、現実に活用できるかどうかを検証することは極めて重要です。本プロジェクトでは Tesla 系 GPU を約 1 ヶ年にわたりベンチマークし、その詳細を報告します。
構成とハードウェア選定
今回のベンチマークの目的は、ホームラボ向けで低消費電力な 4U GPU ノード の部品リスト(BOM)を策定することにあります。適切な冷却(冷却塔ベータ版など)を採用すれば、消費者向け製品に比べて高密度な搭載が可能です。
- 標準ケース/ラックマウント: 容易に 3 基の GPU と 10GB NIC を搭載可能。
- CPU コストの低下: EOL(製品ライフサイクル終了)品でありながら、価格が著しく低下しています。
- E5-2690 (Intel Xeon): $40 で 3.50 GHz ブースト・56 スレッド獲得可能。
- Supermicro X10DRG-Q: デュアル CPU/7 スロット搭載のサーバー用マザーボードが現在 $200 で取引中。
導入の注意点と限界
検討中のハードウェアはすべて EOL 済みです。以下の点を認識しておく必要があります。
- ドライバー非対応: 近い将来、CUDA 互換性アップデートやドライバ更新は期待できません。
- 電力効率の低さ: 古い機器は電力効率が低く、トークンあたり多くのエネルギーを消費します。
- 責任ある利用: データセンターなどハイアベイラリティ用途では推奨できませんが、個人のホームラボ という文脈下では問題ありません。
- ソフトウェア対応の回避策: 最新ソフトが使えない問題は、ソースコードからコンパイルする(例:
)ことで多数の古くからの CUDA アーキテクチャに対応可能です。2014 年の Kepler アーキテクチャでも動作確認済み。llama.cpp-
重要: 大規模言語モデル (LLM) を動かさず動画処理もしない場合、電源を切るか停止する と良いでしょう。継続稼働での電気代は購入費用を上回ります。
-
ベンチマーク項目と定義
ベンチマークスイートは Docker コンテナ形式で実行され、互換性とポータビリティを確保しています。テストの構成は以下の通りです。
| カテゴリ | ベンチマーク項目 | 目的・説明 |
|---|---|---|
| 学習/推論 | ResNet50 Train B=64 | 画像分類用 CNN の学習パフォーマンス測定 |
| ResNet50 Infer B=1 | シングルイメージでの低遅延推論測定 | |
| ResNet50 Infer B=256 | バッチ処理による高スループット推論測定 | |
| レンダリング | Blender GPU | 3D レンダリングワークロード(プロダクションスタイル) |
| Blender CPU | CPU レンダリングの基準値提供 | |
| ビジュントランスフォーマー | CAT ViT Scores | 画像分析・スコアリングのスループット測定 |
| CAT ViT Attention | 計算負荷の高いアテンションマップ生成測定 | |
| LLM (llama.cpp) | Qwen2.5 1.5B Prompt/Gen | 小規模モデルのプロンプト処理・テキスト生成測定 |
| Llama 3 8B Prompt/Gen | より大規模モデルの同性能評価 | |
| Qwen1.5 MoE Prompt/Gen | 専門家ミックス(MoE)型モデルの評価 | |
| 科学計算 | F@H Single / Double | 分子動態シミュレーションによる科学計算性能測定 |
| SHA-256 | GPU 固有の暗号化ハッシュ計算スループット | |
| その他 AI | Whisper Med FP16 | トランスフォーマーベースの音声認識(STT)推論 |
| Storage→CPU→GPU | データ読み込みスループット(ボトルネック測定) |
分析指標の概要:
: マルチ GPU ネイティブなテスト結果。native_multi_gpu_result
: 個別スコアの合計値。forced_multi_gpu_sum- ボトルネック特定のために、複数の指標を組み合わせて分析します。
テスト環境と構成
以下のハードウェアを用いてベンチマークを実行しました。
- GPU: K80, M10, M40, M60, P40, P100, V100, T40
- CPU: E5-2687W (12 コア), E5-1680 (8 コア)
- マザーボード: Asus X99-WS (シングルソケット), Supermicro X10DRG-Q (デュアルソケット)
条件: 同一の CPU/マザーボード構成(場合を除き)、同一の RAM シャーシ、電源を使用。GPU 冷却は自動制御設定に統一。
結果分析:世代間比較
リリース順(左から右)に沿った結果を確認すると、以下の点が特徴的です。
- V100-16GB の性能: すべてのテストにおいて、比較的希少な新型の T40 と同等 のパフォーマンスを発揮しました。
- V100 は T40 よりも古く安価ですが、Volta アーキテクチャによる劇的な性能向上が見られます。
- P40 vs P100: オンラインでの議論通り、LLM 利用には P40 が推奨されることが裏付けられました。
- M60 の驚異的な性能: 特に Whisper(音声認識) で際立った高スループットを発揮しました。
-
重要: 大量の音声文字起こし用途であれば、$50 という超低価格で入手可能な M60 が最適解です。
-
結果分析:GPU スケーリング
システムに GPU カードを追加するにつれて、パフォーマンスがどのように変化するかを調査しました。
- 一般的な傾向: 追加カード数が増えるほど性能向上しますが、通信オーバーヘッドにより飽和(回帰)することが期待されます。
- LLM の peculiar な挙動:
設定の欠陥により、GPU 数を増やしても LLM スループットが一定に留まっている可能性があります。llama.cpp- CAT ViT Attention (P100 除外) などで回帰現象は見られず、ResNet50 や SHA-256 では線形増加を示しました。
- 結論: 自宅のラックユニットは既に占有されており、「埋め尽くす」ことでオーバーヘッド増大を避けつつ生産性を最大化できる ので、ホームラボユーザーにとって朗報です。
結果分析:ハイブリッド構成
「新型の高価な GPU」と「多数の安価な古式 GPU」を混合した場合の挙動を検証しました(What-if シナリオ)。
- V100 と P100 の混合: LLM ユースケースにおいて、高価な V100 が P100 より足を引っ張る傾向がありませんでした。
- 総合的な結論: 世代に関わらず、単純に GPU の数を増やすほど性能は向上します(前述の LLM 設定の例外を除く)。
CPU とマザーボードの影響評価
CPU 比較
GPU は CPU から供給されます。単一コア速度と総コア数のどちらを重視すべきか検討しました。
- 一般的な傾向: より高性能なコアを持つ CPU の方がスコアが向上しますが、効果が小さめのケースが多いです。
- 顕著な低下:
およびWhisper
では、コア数が増え単一コア性能が低下すると、明確にスコアが下落する 傾向が確認されました。CAT ViT Attention-
重要: この発見は、音声処理や特定ワークロードを持つユースケースにおいて CPU 選択を左右します。
-
マザーボード比較
信号整合性や電源供給の問題がないか、異なるマザーボード間の差異を検証しました。
- 結果: 予想通り、高性能な「ワークステーショングレード」ボード間で大きな性能差はありませんでした。
- アドバイス: eBay や AliExpress の安価な X99 マザーボードでも良好な結果が得られます。臨界システムとして構築する場合のリスクについては別途検証が必要ですが、ホーム用途では問題視しません。
推奨構成案(BOM)
本プロジェクトの核である
streamarize(ライブ配信処理・動画生成ツール)を前提とした構成です。
- 核心コンポーネント: Whisper, Ollama, Content Aware Timelapse
- 推奨 GPU: V100 が勝利。M60 は Whisper スループットに優れますが、総合的な用途には V100 が適しています。
- 推奨 CPU/マザーボード:
- CPU: E5-1680 (8 コア)
- マザーボード: Asus X99-WS
- 容量計画: この構成で 3 基の V100 をサポートでき、NIC のスペースも確保可能です。
まとめと今後
本環境はより多くのテストやハードウェア評価に拡張可能です。Tesla GPU ベンチマークで見落としている点がある場合はご指摘ください。 次のステップとして、不足するハードウェアの調達とシステム構築を計画しています。
ありがとうございました!