最新のワークロードによる「電子廃棄物 GPU」15 機のパフォーマンスベンチマーク

2026/07/13 22:48

最新のワークロードによる「電子廃棄物 GPU」15 機のパフォーマンスベンチマーク

RSS: https://news.ycombinator.com/rss

要約

Japanese Translation:

1 年間のテストプロジェクトにより、廃止された企業用ハードウェアの再利用が高コスト削減の範囲内で高性能なホームラボコンピューティングを実現する有効な経路であることを検証した。具体的なベンチマークは、このエコシステム内の独自の優位性を明らかにしており、M60 は約 50 ドルという優れたコストパフォーマンスで Whisper のような音声認識タスクにおいて卓越しており、P40 は大規模言語モデル(LLM)の稼働においては P100 を上回る性能を示している。古いアーキテクチャはエンド・オブ・ライフであり、将来のドライバ更新がない点やトークンあたりの低電力効率という欠点はあるが、安価なアイドル状態での VRAM 源として残されている(例:K80 約 60 ドル、V100 200 ドル未満)。

アーキテクチャは X99 マザーボード搭載の Xeon E5 シリーズなどの低価格デュアルソケット CPU を利用し、レンダリングや科学計算(F@H、SHA-256)から AI ワークロードに至るまでを扱う多様な Docker コンテナスイートと組み合わせています。このアプローチはモダンなチップと比較して電力効率が低いことを受け入れ、常時稼働が求められる重要な企業環境には不向きであるものの、アイドル時に機器を電源オフにできる趣味家には最適なソリューションです。将来の開発では、Qwen2.5 などの高度なモデルにおける完全な線形スケーリング能力を引き出すためのソフトウェア構成の最適化に焦点を当て、これらのリソースがコミュニティにとってさらに強力になることを目指します。

本文

引退された NVIDIA エンタープライズ GPU:ホームラボベンチマークレポート

廃棄された NVIDIA エンタープライズ用 GPU は、安価で高容量な VRAM を確保するための主要な手段の一つです。現在入手可能な主なカードの価格は以下の通りです。

  • K80 (24GB GDDR5): 約 60 ドル
  • P100 (16GB): 約 75 ドル
  • V100 (16GB): 200 ドル未満

これらのカードは欠陥や制限が存在する可能性がありますが、現実に活用できるかどうかを検証することは極めて重要です。本プロジェクトでは Tesla 系 GPU を約 1 ヶ年にわたりベンチマークし、その詳細を報告します。

構成とハードウェア選定

今回のベンチマークの目的は、ホームラボ向けで低消費電力な 4U GPU ノード の部品リスト(BOM)を策定することにあります。適切な冷却(冷却塔ベータ版など)を採用すれば、消費者向け製品に比べて高密度な搭載が可能です。

  • 標準ケース/ラックマウント: 容易に 3 基の GPU10GB NIC を搭載可能。
  • CPU コストの低下: EOL(製品ライフサイクル終了)品でありながら、価格が著しく低下しています。
    • E5-2690 (Intel Xeon): $40 で 3.50 GHz ブースト・56 スレッド獲得可能。
    • Supermicro X10DRG-Q: デュアル CPU/7 スロット搭載のサーバー用マザーボードが現在 $200 で取引中。

導入の注意点と限界

検討中のハードウェアはすべて EOL 済みです。以下の点を認識しておく必要があります。

  • ドライバー非対応: 近い将来、CUDA 互換性アップデートやドライバ更新は期待できません。
  • 電力効率の低さ: 古い機器は電力効率が低く、トークンあたり多くのエネルギーを消費します。
  • 責任ある利用: データセンターなどハイアベイラリティ用途では推奨できませんが、個人のホームラボ という文脈下では問題ありません。
  • ソフトウェア対応の回避策: 最新ソフトが使えない問題は、ソースコードからコンパイルする(例:
    llama.cpp
    )ことで多数の古くからの CUDA アーキテクチャに対応可能です。2014 年の Kepler アーキテクチャでも動作確認済み。
    • 重要: 大規模言語モデル (LLM) を動かさず動画処理もしない場合、電源を切るか停止する と良いでしょう。継続稼働での電気代は購入費用を上回ります。

ベンチマーク項目と定義

ベンチマークスイートは Docker コンテナ形式で実行され、互換性とポータビリティを確保しています。テストの構成は以下の通りです。

カテゴリベンチマーク項目目的・説明
学習/推論ResNet50 Train B=64画像分類用 CNN の学習パフォーマンス測定
ResNet50 Infer B=1シングルイメージでの低遅延推論測定
ResNet50 Infer B=256バッチ処理による高スループット推論測定
レンダリングBlender GPU3D レンダリングワークロード(プロダクションスタイル)
Blender CPUCPU レンダリングの基準値提供
ビジュントランスフォーマーCAT ViT Scores画像分析・スコアリングのスループット測定
CAT ViT Attention計算負荷の高いアテンションマップ生成測定
LLM (llama.cpp)Qwen2.5 1.5B Prompt/Gen小規模モデルのプロンプト処理・テキスト生成測定
Llama 3 8B Prompt/Genより大規模モデルの同性能評価
Qwen1.5 MoE Prompt/Gen専門家ミックス(MoE)型モデルの評価
科学計算F@H Single / Double分子動態シミュレーションによる科学計算性能測定
SHA-256GPU 固有の暗号化ハッシュ計算スループット
その他 AIWhisper Med FP16トランスフォーマーベースの音声認識(STT)推論
Storage→CPU→GPUデータ読み込みスループット(ボトルネック測定)

分析指標の概要:

  • native_multi_gpu_result
    : マルチ GPU ネイティブなテスト結果。
  • forced_multi_gpu_sum
    : 個別スコアの合計値。
  • ボトルネック特定のために、複数の指標を組み合わせて分析します。

テスト環境と構成

以下のハードウェアを用いてベンチマークを実行しました。

  • GPU: K80, M10, M40, M60, P40, P100, V100, T40
  • CPU: E5-2687W (12 コア), E5-1680 (8 コア)
  • マザーボード: Asus X99-WS (シングルソケット), Supermicro X10DRG-Q (デュアルソケット)

条件: 同一の CPU/マザーボード構成(場合を除き)、同一の RAM シャーシ、電源を使用。GPU 冷却は自動制御設定に統一。

結果分析:世代間比較

リリース順(左から右)に沿った結果を確認すると、以下の点が特徴的です。

  • V100-16GB の性能: すべてのテストにおいて、比較的希少な新型の T40 と同等 のパフォーマンスを発揮しました。
    • V100 は T40 よりも古く安価ですが、Volta アーキテクチャによる劇的な性能向上が見られます。
  • P40 vs P100: オンラインでの議論通り、LLM 利用には P40 が推奨されることが裏付けられました。
  • M60 の驚異的な性能: 特に Whisper(音声認識) で際立った高スループットを発揮しました。
    • 重要: 大量の音声文字起こし用途であれば、$50 という超低価格で入手可能な M60 が最適解です。

結果分析:GPU スケーリング

システムに GPU カードを追加するにつれて、パフォーマンスがどのように変化するかを調査しました。

  • 一般的な傾向: 追加カード数が増えるほど性能向上しますが、通信オーバーヘッドにより飽和(回帰)することが期待されます。
  • LLM の peculiar な挙動:
    llama.cpp
    設定の欠陥により、GPU 数を増やしても LLM スループットが一定に留まっている可能性があります。
    • CAT ViT Attention (P100 除外) などで回帰現象は見られず、ResNet50 や SHA-256 では線形増加を示しました。
  • 結論: 自宅のラックユニットは既に占有されており、「埋め尽くす」ことでオーバーヘッド増大を避けつつ生産性を最大化できる ので、ホームラボユーザーにとって朗報です。

結果分析:ハイブリッド構成

「新型の高価な GPU」と「多数の安価な古式 GPU」を混合した場合の挙動を検証しました(What-if シナリオ)。

  • V100 と P100 の混合: LLM ユースケースにおいて、高価な V100 が P100 より足を引っ張る傾向がありませんでした。
  • 総合的な結論: 世代に関わらず、単純に GPU の数を増やすほど性能は向上します(前述の LLM 設定の例外を除く)。

CPU とマザーボードの影響評価

CPU 比較

GPU は CPU から供給されます。単一コア速度と総コア数のどちらを重視すべきか検討しました。

  • 一般的な傾向: より高性能なコアを持つ CPU の方がスコアが向上しますが、効果が小さめのケースが多いです。
  • 顕著な低下:
    Whisper
    および
    CAT ViT Attention
    では、コア数が増え単一コア性能が低下すると、明確にスコアが下落する 傾向が確認されました。
    • 重要: この発見は、音声処理や特定ワークロードを持つユースケースにおいて CPU 選択を左右します。

マザーボード比較

信号整合性や電源供給の問題がないか、異なるマザーボード間の差異を検証しました。

  • 結果: 予想通り、高性能な「ワークステーショングレード」ボード間で大きな性能差はありませんでした
  • アドバイス: eBay や AliExpress の安価な X99 マザーボードでも良好な結果が得られます。臨界システムとして構築する場合のリスクについては別途検証が必要ですが、ホーム用途では問題視しません。

推奨構成案(BOM)

本プロジェクトの核である

streamarize
(ライブ配信処理・動画生成ツール)を前提とした構成です。

  • 核心コンポーネント: Whisper, Ollama, Content Aware Timelapse
  • 推奨 GPU: V100 が勝利。M60 は Whisper スループットに優れますが、総合的な用途には V100 が適しています。
  • 推奨 CPU/マザーボード:
    • CPU: E5-1680 (8 コア)
    • マザーボード: Asus X99-WS
  • 容量計画: この構成で 3 基の V100 をサポートでき、NIC のスペースも確保可能です。

まとめと今後

本環境はより多くのテストやハードウェア評価に拡張可能です。Tesla GPU ベンチマークで見落としている点がある場合はご指摘ください。 次のステップとして、不足するハードウェアの調達とシステム構築を計画しています。

ありがとうございました!

同じ日のほかのニュース

一覧に戻る →

2026/07/14 7:19

『アジア最浄の村』が日曜日観光客禁止に

## Japanese 翻訳: 2026 年 1 月以来、インディアのメガラヤ州にある約 600 人の居住者がいるモーリャン・オン(Mawlynnong)村では、「真の村の生活」を再建する目的として、日曜日の昼間の観光客に対する厳格な禁止措置を導入しています。1902 年に設立された教会が存在し、人口の推定 100% がクリスチャンであるこのコミュニティは、日曜日には単一の道路への入口を黒い金属製のゲートで閉鎖して、 uninterrupted な礼拝を保証しています。以前からほとんどの観光関連事業所が日曜日の営業停止を選択していました(レストランは 2 カ所のみ営業)ましたが、公式な禁止措置により、今では店舗や一日利用施設が完全に閉鎖されるようになっています。一泊予約を持つゲストはこの昼間の旅行禁止からの例外扱いで、ゲストハウスに滞在することができ、一方で地元のレストランや記念品販売店は引き続き閉鎖されています。住民は、村評議会の委員でもあるプリシウス・コングドプ(Precious Khongdup)を含むコミュニティの一致した支持を受けながら、この取り組みを文化のアイデンティティ、精神的なリズム、および 2003 年に「アジアで最も清潔な村」と命名されたり、2014 年にナレンドラ・モディ首相のクリーン・インディア・ミッションキャンペーンの際に全国的な注目を得たりした功績をもたらした規律を保持するために不可欠だと考えています。この決定は、観光客による妨害に対する具体的な懸念に対応しており、観光客が地面にプラスチック製の水ボトルを置き去りにするというバイラル化した事象などが挙げられ、これにより地元からは強い反発が生じていました。言語学の教授ヴィジャヤ・デブナス(Vijaya Debnath)を含む専門家は、このイニシアチブを称賛しており、清潔さを維持しつつ、村民の静かな一日の休息と祈りの必要性にも敬意を表していると評価しています。

2026/07/14 3:22

Xcode を起動することなく Mac および iOS アプリを開発して配送する方法

## Japanese Translation: 本テキストでは、Xcode を一度設定した後の開封を不要とする堅牢で完全にヘッドレスの iOS アプリケーションの作成・デプロイワークフローが概説されています。シェルスクリプトによるライフサイクル全体のアオマティゼーションを通じて、開発者は `xcodebuild` コマンドラインツールを用いてコードをコンパイルし、`notarytool` によってビルドを保護し、`devicectl` を用いて物理デバイスにアプリを直接インストールします。セキュリティは、証明書ベースのキーチェーンおよび外部パスワードマネージャーの活用により維持され、プライベートキーなどの機密情報はバージョン管理システムへの投入を完全に防ぎます。本システムは XcodeGen を用いてプロジェクトを管理し、煩雑なローカルフォルダではなくクリーンな YAML 設定ファイル(`.yml` ファイル)によってプロジェクトを制御し、アドホックテスト版と公式開発者 ID リリースを自動的に区別します。一度設定されたリリーススクリプトは、アーカイブ、署名、認証化、スタプリング、インストールを含む厳格なパイプラインを実行し、沈黙する失敗を防ぐために堅牢なエラー処理(`set -euo pipefail`)を採用します。このアプローチは、チームが手動のマウス操作または GUI ウィンドウなしに、実際に動作するソフトウェアを効率的にデプロイするために安全で再現可能な CI パイプラインを構築することを可能にします。 ## Text to translate: The text outlines a robust, fully headless workflow for creating and deploying iOS applications that eliminates the need to open Xcode after an initial setup. By automating the entire lifecycle through shell scripts, developers utilize command-line tools such as `xcodebuild` to compile code, `notarytool` to secure builds, and `devicectl` to install apps directly onto physical devices. Security is maintained by leveraging certificate-based keychains and external password managers, ensuring sensitive secrets like private keys never enter version control. The system employs XcodeGen to manage projects via clean YAML configurations (`.yml` files) rather than cluttered local folders, automatically distinguishing between ad-hoc testing versions and official Developer ID releases. Once configured, a release script executes a rigorous pipeline involving archiving, signing, notarizing, stapling, and installation, while using strict error handling (`set -euo pipefail`) to prevent silent failures. This approach empowers teams to establish secure, repeatable CI pipelines that deploy real software efficiently without any manual mouse interactions or GUI windows.

2026/07/14 1:06

Apple が発表した新たな音声分析 API「SpeechAnalyzer」のベンチマークテストで、Whisper とその前代モデルと比較

## Japanese Translation: Apple の新しい SpeechAnalyzer API は、次期 OS 26 の一部として提供されるもので、英語の読み上げ音声に対する優れたオンデバイス音声認識を実現しており、特定ベンチマークコンテキスト内では従来のツールや人気が高い Whisper モデル(Tiny, Base, Small)を大幅に上回っています。この優位性は、M2 Pro チップなどの Apple ハードウェアで行われた厳密なローカルベンチマークを通じて証明され、オーディオを外部サーバーにアップロードすることなく、高速な処理速度——Whisper Small の計算時間の約 1/3——を実現することが示されました。清潔な LibriSpeech テストデータに対しては、従来の SFSpeechRecognizer API に比べて単語誤りを約 4 倍削減し(2.12% WER から 9.02%)、ノイズのあるデータに対しても同様の劇的な改善が見られました。この研究では、Inscribe のプロダクションコードパスと同一のテストハルネスを用い、Whisper の測定値は OpenAI が公開した値と比較しましたが、Whisper の相対的な不正確さは、これらのベンチマーク(アクセントのある音声、遠距離音声、または複数話者シナリオを含まない)に限定されたもの임을 指摘しました。重要なのは、すべてのテストが完全にオンデバイスで行われたことであり、従来の SFSpeechRecognizer もローカルで使用される場合でもクラウド処理にデフォルトで切り替わるという点です。これらの結果に基づき、Inscribe は製品ロジックを更新し、対応言語(現在約 30 のロケール)では SpeechAnalyzer を優先し、未対応の言語のみを Whisper に切り替えました。さらに、研究チームは Inscribe が SpeechAnalyzer でオーディオファイルを取り扱う際に重大なバグを見出し、生テキストデータを検証のために公開ダウンロード可能とする措置を講じました。これは、Apple エコシステム内のプライバシー重視かつ高パフォーマンスなオンデバイス AI 機能において大きな飛躍を意味します。