Show HN:llmspeed – ハードウェアを購入する前に、ローカルLLMの動作速度を実際に体感してください

2026/10/17 13:36

Show HN:llmspeed – ハードウェアを購入する前に、ローカルLLMの動作速度を実際に体感してください

RSS: https://news.ycombinator.com/rss

要約▶

Japanese Translation:

本テキストは、ローカルデスクトップやノートパソコンからエンタープライズ向けクラウドソリューションに至るまで、広範なハードウェア構成におけるオープンソース大規模言語モデル(LLM)の性能を評価するための包括的な参考ガイドとして機能します。本編集中には、NVIDIA の RTX 30/40/50 シリーズ、Tesla V100、DGX Spark、H100/H200 クラウドインスタンス、AMD Ryzen AI シリーズ(Strix Halo/Gorgon Halo)、Radeon AI PRO および RX カード、Intel Arc Pro、および M3 から想定される M5 チップを搭載する Apple Mac Studio/MacBook ユニットといった具体的なプロセッサと GPU の詳細な在庫リストが含まれています。ソフトウェアの範囲については、Qwen バリエーション(9B から 120B パラメータ)、Gemma 4、GLM-5.3、GPT-OSS、DeepSeek V4、Nemotron 3.5 Lightning、Llama 3.1 など、多様なオープンソースモデルをカバーしています。パフォーマンスの見積もりは、単一デバイス上で短いプロンプトを実行した場合のものであり、主に r/LocalLLaMA や localscore.ai などのプラットフォーム上のコミュニティベンチマークから導出されており、追加データについては公式仕様や同等の構成に基づいています。これにより、デプロイ戦略のための透明性のある実現可能性データを確保しています。

本文

最新 AI ハードウェアと大規模モデルベンチマーク情報

このセクションでは、主要なハードウェアデバイスと対応する推定ベンチマークの概要を整理しました。

ハードウェア別一覧

以下のリストは、特定の構成での推定値を含みますが、詳細データは GitHub でオープンソース化されています。

  • NVIDIA RTX 3090: 24GB
  • AMD Ryzen AI Max+ 395 (Strix Halo): 128GB
  • NVIDIA RTX 5090: 32GB
  • AMD Radeon AI PRO R9700: 32GB
  • NVIDIA RTX 4090: 24GB
  • Mac Studio (M5 Ultra): 256GB
  • MacBook Pro (M5 Max): 128GB
  • NVIDIA DGX Spark: 128GB
  • NVIDIA RTX 5060 Ti: 16GB
  • NVIDIA RTX PRO 6000: 96GB
  • Mac Studio (M5 Ultra): 512GB
  • NVIDIA Tesla V100: 32GB
  • Intel Arc Pro B70: 32GB
  • AMD RX 7900 XTX: 24GB
  • NVIDIA RTX 5070 Ti: 16GB
  • NVIDIA RTX Spark N1X (ノートパソコン用): 128GB
  • AMD Ryzen AI Max+ PRO 495 (Gorgon Halo): 192GB
  • NVIDIA RTX 3060: 12GB
  • NVIDIA RTX 5080: 16GB
  • Mac Studio (M3 Ultra): 512GB
  • Mac mini (M5 Pro): 64GB
  • AMD Instinct MI50: 32GB
  • MacBook Pro (M5 Pro): 48GB
  • Mac Studio (M4 Max): 128GB
  • AMD RX 9070 XT: 16GB
  • AMD RX 7900 XT: 20GB
  • CPU 単体: Ryzen 9 9950X + DDR5 96GB
  • MacBook (M4 Pro): 24GB
  • クラウド環境向け GPU: H100 (80GB)、H200 (141GB)

モデル別一覧

主要なオープンソースおよび商用モデルのリストです。

  • Qwen 3.6 / 3.8 (27B)
  • Qwen 3.8 Flash-Next
  • GLM-5.3 (Flash)
  • Gemma 4 (26B A4B)
  • GPT-OSS (20B)
  • Qwen 3.5 / 3.6 (35B A3B)
  • Gemma 4 (31B)
  • Qwen 3.5 (9B)
  • DeepSeek V4 (Flash)
  • DeepSeek V4.1 (Flash)
  • GPT-OSS (120B)
  • Llama 3.1 (8B)
  • Gemma 4 (12B)
  • GLM-5.3
  • Nemotron 3.5 Lightning (30B A3B)

ベンチマークデータの留意点

このベンチマーク結果について以下の点が重要となります。

  • 測定環境: 単一のデバイス上で、短いプロンプトに対する性能が測定されています。
  • 数値の由来:
    • コミュニティによる実際のベンチマークデータ(例:
      r/LocalLLaMA
      、
      localscore.ai
      )
    • 類似構成に基づいた推測値
    • メーカー仕様の予測値
  • 詳細情報の入手元: より詳細なデータやソースコードは、GitHub でオープンソース化されています。

同じ日のほかのニュース

一覧に戻る →

2026/10/17 17:21

DeepSeek-v4.1-Flash-1017

## Japanese Translation: DeepSeek-V4.1-Flash-1017 は、DeepSeek-V4.1-Flash のパフォーマンス向上型の後継モデルであり、推論、コーディング、エージェントタスクおよび画像ベンチマークにおいて顕著な性能向上を実現すると同時に、実行時間と出力長を削減しています。ベンチマーク結果によると、同モデルはオリジナルの V4.1-Flash を大幅に凌駕しており、HLE で 42.6(対 36.8)、Terminal-Bench 4.0 で 42.3(対 31.2)、DeepSWE v1.1 で 77.0(対 74.2)、Apex Bench v1.1 で 72.1(対 64.6)のスコアを記録しています。業界トップクラスの GPT-5.6 Sol や Opus 5 より劣るものの、前世代モデルに対しては確かな位置づけを確立しています。同モデルは、2026 年に発表された高度な KV キャッシュ圧縮技術による効率化を目的として設計されており、MIT ライセンスの下で公開されています。本番環境での統合においては、Rust ベースの `deepseek-recipe` ツールキット(Python バインディング付き)を利用することをお勧めします。この toolkit は、ツール呼び出しや画像生成といった複雑なタスクを処理する際に外部チャットテンプレートを使用する必要がありません。最適なパフォーマンスを発揮するためには、1M トークンの大きなコンテキストウィンドウ、少なくとも 256K トークンの最大出力容量、および サンプリングパラメータとして temperature=1.0 および top_p=1.0 を設定する必要があります。

2026/10/15 16:18

Commodore 64 ハードウェアシミュレーター:チップとピンを壊して結果を確認しよう

## Japanese Translation: 本ソフトウェアは、Andre Weissflog のコアモデルを zlib ライセンスの下で構築し、Commodore 64 のマザーボード(ASSY 250407)に対してサイクル正確なピン毎のシミュレーションを提供します。事前に定義された障害パターンに依存するツールとは異なり、明確な回路動作モデルおよびボードのネットリストを使用して、RAM のエイリアシングや電源投入前に特定のピンをリフトする際などに自然に発生するグリッチを導出します。ユーザーはチップをリフトする、ピンをショートさせる、ソケットを取り外す、抵抗器を開くなどしてボードと相互作用し、C64 の動作を安全に学習したり、壊れたハードウェアのトラブルシューティングを行ったりすることができます。パワーモデリングは厳格であり、死んだチップ、浮遊する CMOS 構成要素、および幻のパワー効果を区別します。シミュレーションにはオシロスコープ表示や .prg の読み込みによるデバッグ機能などの機能が含まれていますが、現在のハードウェア上のパフォーマンス制限のためゲームエミュレーターではありません(31–48% の速度でシミュレート)。既知のギャップとしては、SID フィルターやビデオ出力のようなアナログ部品がシミュレーションされていないことなどがあり、将来的なアップデートでは内部チップの障害およびネットブリッジの対応を計画しています。

2026/10/18 0:55

ペレ - テーマ化可能な SVG としてマーメイド図

## 日本語訳: # ルール - 元の意味を正確に保持する(追加も省略もない)。 - ドキュメントの構造(見出し、箇条書きなど)を維持する。 - 技術用語を正確に扱う(API、LLM、zero-trust は自然な日本語の対訳がある場合を除きそのまま残す)。 - トーンと確信度を保つ。 - まとめ、説明、改変を行わず、翻訳のみを行う。 # 出力形式 ## 日本語訳: (ここに日本語訳を書く) ## 訳すべきテキスト: (必要であれば;なければ元の文章を繰り返す): 正確性や明瞭さのためには改善は不要だが、 desired な場合は名前の由来に簡潔に触れることで若干の文脈を追加できる。