
2026/10/17 13:36
Show HN:llmspeed – ハードウェアを購入する前に、ローカルLLMの動作速度を実際に体感してください
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
本テキストは、ローカルデスクトップやノートパソコンからエンタープライズ向けクラウドソリューションに至るまで、広範なハードウェア構成におけるオープンソース大規模言語モデル(LLM)の性能を評価するための包括的な参考ガイドとして機能します。本編集中には、NVIDIA の RTX 30/40/50 シリーズ、Tesla V100、DGX Spark、H100/H200 クラウドインスタンス、AMD Ryzen AI シリーズ(Strix Halo/Gorgon Halo)、Radeon AI PRO および RX カード、Intel Arc Pro、および M3 から想定される M5 チップを搭載する Apple Mac Studio/MacBook ユニットといった具体的なプロセッサと GPU の詳細な在庫リストが含まれています。ソフトウェアの範囲については、Qwen バリエーション(9B から 120B パラメータ)、Gemma 4、GLM-5.3、GPT-OSS、DeepSeek V4、Nemotron 3.5 Lightning、Llama 3.1 など、多様なオープンソースモデルをカバーしています。パフォーマンスの見積もりは、単一デバイス上で短いプロンプトを実行した場合のものであり、主に r/LocalLLaMA や localscore.ai などのプラットフォーム上のコミュニティベンチマークから導出されており、追加データについては公式仕様や同等の構成に基づいています。これにより、デプロイ戦略のための透明性のある実現可能性データを確保しています。
本文
最新 AI ハードウェアと大規模モデルベンチマーク情報
このセクションでは、主要なハードウェアデバイスと対応する推定ベンチマークの概要を整理しました。
ハードウェア別一覧
以下のリストは、特定の構成での推定値を含みますが、詳細データは GitHub でオープンソース化されています。
- NVIDIA RTX 3090: 24GB
- AMD Ryzen AI Max+ 395 (Strix Halo): 128GB
- NVIDIA RTX 5090: 32GB
- AMD Radeon AI PRO R9700: 32GB
- NVIDIA RTX 4090: 24GB
- Mac Studio (M5 Ultra): 256GB
- MacBook Pro (M5 Max): 128GB
- NVIDIA DGX Spark: 128GB
- NVIDIA RTX 5060 Ti: 16GB
- NVIDIA RTX PRO 6000: 96GB
- Mac Studio (M5 Ultra): 512GB
- NVIDIA Tesla V100: 32GB
- Intel Arc Pro B70: 32GB
- AMD RX 7900 XTX: 24GB
- NVIDIA RTX 5070 Ti: 16GB
- NVIDIA RTX Spark N1X (ノートパソコン用): 128GB
- AMD Ryzen AI Max+ PRO 495 (Gorgon Halo): 192GB
- NVIDIA RTX 3060: 12GB
- NVIDIA RTX 5080: 16GB
- Mac Studio (M3 Ultra): 512GB
- Mac mini (M5 Pro): 64GB
- AMD Instinct MI50: 32GB
- MacBook Pro (M5 Pro): 48GB
- Mac Studio (M4 Max): 128GB
- AMD RX 9070 XT: 16GB
- AMD RX 7900 XT: 20GB
- CPU 単体: Ryzen 9 9950X + DDR5 96GB
- MacBook (M4 Pro): 24GB
- クラウド環境向け GPU: H100 (80GB)、H200 (141GB)
モデル別一覧
主要なオープンソースおよび商用モデルのリストです。
- Qwen 3.6 / 3.8 (27B)
- Qwen 3.8 Flash-Next
- GLM-5.3 (Flash)
- Gemma 4 (26B A4B)
- GPT-OSS (20B)
- Qwen 3.5 / 3.6 (35B A3B)
- Gemma 4 (31B)
- Qwen 3.5 (9B)
- DeepSeek V4 (Flash)
- DeepSeek V4.1 (Flash)
- GPT-OSS (120B)
- Llama 3.1 (8B)
- Gemma 4 (12B)
- GLM-5.3
- Nemotron 3.5 Lightning (30B A3B)
ベンチマークデータの留意点
このベンチマーク結果について以下の点が重要となります。
- 測定環境: 単一のデバイス上で、短いプロンプトに対する性能が測定されています。
- 数値の由来:
- コミュニティによる実際のベンチマークデータ(例:
、r/LocalLLaMA
)localscore.ai - 類似構成に基づいた推測値
- メーカー仕様の予測値
- コミュニティによる実際のベンチマークデータ(例:
- 詳細情報の入手元: より詳細なデータやソースコードは、GitHub でオープンソース化されています。