Nvidia 3000 シリーズ GPU の FP/BF16 命令発行レートについて

2026/10/24 18:58

Nvidia 3000 シリーズ GPU の FP/BF16 命令発行レートについて

RSS: https://news.ycombinator.com/rss

要約▶

Japanese Translation:

消費者向け GPU 最適化における最も重要な進展は、「GPU unlock」バージョン 1.0.0 のリリースであり、これは Nvidia GA102–GA106 カードの FP/BF16 インスルークション発行速度をプロフェッショナル版と同等にするために設計された Linux カーネルモジュールである。以前の手法が複雑なドライバーパッチングや UEFI 修飾を必要としたのに対し、本ツールは標準的な NVIDIA ドライバーがロードされる前に initramfs を介して自身を注入し、ドライバより前のタイミングで動作する。これは CMP アンロックアの V67/PLM 技術を組み合わせているが、パッチ付きドライバーや UEFI アプリケーションではないため、新バージョンのたびに手動でのパッチングが必要なくなる。このモジュールは、RTX 3090 Ti、3080、3070 などの消費者向け GPU で Fused Multiply-Add(FMA)速度を実質的に 2 倍にし、BF16 GEMM パフォーマンスを 70% 以上向上させる。特定の性能向上率は +68% から +81% の範囲である。これらの改善は、クリティカルな AI タスクを直接加速し、LLM のプリフィル速度(+14–36%)や FlashAttention を通じたディフュージョンモデルのパフォーマンスを向上させる。一方、テキストデコード(INT8)はビット同一の出力を保ちながら影響を受けない。インストールには、GitHub からクローンして

make install
を実行し、GRUB または systemd-boot を介して特定のカーネルコマンドライン引数(例:
gpu_unlock.targets=all
)を追加する必要がある。モジュールは mkinitcpio や dracut といったディストリビューション固有のフックを通じて自動的にロードされる。ユーザーは注意すべき点は、RAM スリープからの復帰後にパフォーマンスがリセットされ(再アンロックには約 1 秒が必要)、デフォルトでは混合された PCI ID が無視されることである。本ソフトウェアは GPL-2.0-only ライセンスの下で動作し、消費者ハードウェア上でプロフェッショナルグレードの計算速度を達成するためのアクセスしやすい手段を提供している。支援は Buymeacoffee または暗号通貨アドレスを通じて利用可能である。

本文

GPU Unlock 1.0.0:RTX 30 シリーズの FP16/BF16 パフォーマンス解放ガイド

NVIDIA GeForce RTX 30 シリーズ(GA102/GA103/GA104/GA106 アーキテクチャ)において、データセンター向けプロフェッショナルカードに匹敵する FP16/BF16 インストラクション発行レート を解放する Linux カーネルモジュールです。

技術概要と主な利点

本ツールは、UEI アプローチによるタイミング制御と CMP unlocker の V67/PLM 技術を統合したものです。

  • 未変更の NVIDIA ドライバ対応:パッチ済みドライバや UEFI アプリケーションではなく、標準的な NVIDIA ドライバを使用可能です。
  • 自動アンロック処理:カーネルモジュールが NVIDIA ドライバがカードをバインドする前に実行します。
    • 速度選択レジスタ(SS0 に
      0x88888888
      、SS1 に
      0x8 IMLA4
      )を書き込みます。
    • その後 FLR(フルリセット)を行います。
  • メンテナンス性の向上:NVIDIA が新しいドライバーバージョンをリリースするたびに手動でパッチを適用する必要がありません。

パフォーマンス改善の目安

GA102、GA103、GA104、GA106 アーキテクチャを搭載したカードにおいて、FP16/BF16 FMA 演算からのデータ転送速度は約2 倍に向上します。

データタイプ別の性能比較 (TFLOPS)

入出力 (DataType)アンロック前アンロック後
FP1687.46118.39
BF1687.50157.41
TF3242.5882.61

テスト済みカードと互換性情報

以下のテーブルはユーザーの報告結果に基づくものです。モジュールは

kernel/gpu_unlock/main.c
にリストされた全 GeForce ID をサポート対象としていますが、実機での動作確認は以下に限定されます。

対応チップとモデル一覧

チップ (Chip)カード名 / モデルPCI IDアンロック結果BF16 GEMM 向上率報告数
GA102RTX 3090 Ti10de:2203成功+68〜80%#1
GA102RTX 309010de:2204成功+25〜67%#5, #9, #10, #17, #25, #27, #33
GA102RTX 3080 Ti 20 GB (OEM)10de:2205成功 (BF16 は半速維持)—#28
GA102RTX 3080 10 GB10de:2206成功+70〜73%#14
GA102RTX 3080 20 GB (メモリアップグレード)10de:2206成功+56〜59%#10, #15
GA104RTX 307010de:2484成功+73〜81%#10, #12
GA104RTX 3070 Ti10de:2482未テスト (UEFI ポートで Windows アップグレード時有効)—#32
GA106RTX 3060 12 GB10de:2504成功約 +80%#13, #31
GA103任意のモデル10de:2414報告なし——

重要事項と注意点

  • 比較条件: 示された数値はベンチマークに基づくスループットですが、測定条件が異なるため直接の比較には注意が必要です。
  • 電力制限: パワールimit が 225W に設定されていても最小限の改善 (+25%) を記録します。
  • ワークロード別影響:
    • LLM プリフィル/拡散モデル: マトリクス演算集約型ワークロードで特に向上が見られます(LLM プリフィル: +14〜36%、FlashAttention 等)。
    • LLM デコード/INT8 演算: メモリ帯域幅制限または INT8 演算主体の場合は速度にほとんど影響しません。
  • データ整合性: アンロック前後の出力データはビット単位で同一であることが確認されています。
  • マルチ GPU/仮想化: 1 台 PC に 4 カード以上搭載、表示用カード、または
    vfio-pci
    を経由した VM パススルー (#17 など) でも動作を確認しています。

インストール方法

以下のコマンドを実行してインストールを開始してください。

git clone https://github.com/Zagitta/gpu-unlock
cd gpu-unlock
make install

カーネル起動コマンドラインの設定: 既存のオプションを維持しつつ、カーネル起動コマンドラインに

gpu_unlock.targets=all
を追加する必要があります。OS により設定方法が異なります。

  • GRUB (Debian/Ubuntu/Mint)
    # /etc/default/grub の GRUB_CMDLINE_LINUX_DEFAULT に "gpu_unlock.targets=all" を追加
    # 編集後実行
    sudo update-grub
    
  • GRUB (Arch/CachyOS)
    # 同様に設定後、コマンドを実行
    sudo grub-mkconfig -o /boot/grub/grub.cfg
    
  • Fedora/RHEL
    sudo grubby --update-kernel=ALL --args="gpu_unlock.targets=all"
    
  • systemd-boot
    • 起動エントリーのオプション行に追加してください(
      bootctl status
      で場所を確認)。
  • UKI / 生成されたエントリー
    • /etc/kernel/cmdline
      に追加し、起動イメージを再構築してください。
      # mkinitcpio UKI の場合
      sudo mkinitcpio -P
      

ローカルでのビルド

ビルドプロセスは HTTPS でピン留めされた NVIDIA/CachyOS 入力を使用し、SHA-256 チェックを実行します。ファームウェアはビルドディレクトリとバイナリパッケージ内にのみ生成されます。

インストールのワンステップ実行

以下のコマンドは依存関係のインストールとパッケージの構築を一括で行います(sudo パスワード入力が必要)。

make install          # ディストリビューション自動検出 (Arch / Debian / Fedora)
make install-arch     # Arch: makepkg -sif
make install-deb      # Debian/Ubuntu: apt-get build-dep, dpkg-buildpackage...
make install-rpm      # RHEL/Fedora/CentOS: dnf builddep, rpmbuild...
  • 検出ロジック:
    make install
    は
    /etc/os-release
    を参照して自動的に適切なインストーラーを選択します。
  • パッケージ出力位置:
    • Debian パッケージ:
      build/deb
    • RPM パッケージ:
      build/rpm
  • 入力ファイルのキャッシュ: NVIDIA の入力は
    ~/.cache/gpu-unlock/inputs
    にキャッシュされます(
    make inputs
    で生成)。
    • dpkg-buildpackage
      を使用する際など、ネットワーク接続なしでクリーンなビルド環境(sbuild など)を作る場合は
      GPU_UNLOCK_INPUTS
      環境変数を指定してください。
  • アーカイブ:
    make dist
    コマンドは Debian ソースパッケージと
    .nosrc.rpm
    を生成しますが、NVIDIA のアーカイブやファームウェアを含みません。

ブートフローとオンデマンド設定 (Opt-in)

モジュールとファームウェアは initramfs に配置され、NVIDIA ドライバがカーネルをバインドする前にロードされます。

各種 initramfs システムの構成

  • mkinitcpio:
    /etc/mkinitcpio.conf.d/zz-gpu-unlock.conf
    • MODULES
      セクション内で
      gpu_unlock
      を
      nvidia
      の直前に挿入します。
    • 表示用カードが真っ白になる時間を最小限に抑えます。
  • initramfs-tools:
    /usr/share/initramfs-tools/modules.d/gpu-unlock.conf
  • dracut:
    /usr/lib/dracut/dracut.conf.d/gpu-unlock.conf

注意:

softdep nvidia pre:
ルールは使用されていません。kmod は最初に読んだ
softdep nvidia
の行のみを尊重するため、他のパッケージルールとの競合に注意が必要です。

オンデマンド設定オプション (カーネル起動コマンドライン)

このモジュールは、コマンドライン引数なしの場合は何もしません。以下の形式で指定できます:

  • gpu_unlock.targets=all
    : すべての GA102/3/4/6 カードをアンロックします(デフォルト)。
  • gpu_unlock.targets=0000:21:00.0
    : 指定された PCI アドレスのみ。
  • gpu_unlock.targets=0000:21:00.0,0000:22:00.0
    : カンマ区切りのアドレスリスト。

PCI アドレスの形式:

  • lspci -D
    が出力する完全な名称を使用(例:
    0000:21:00.0
    )。
  • 文字大小に依存しない 16 進数です。
  • GPU の番号付けや表示ロールとは無関係です。

動作特性:

  • 並列処理: カードは並列にアンロックされ、全てのカードにあっても約 1 秒で完了します。
  • スキップ条件: バインド済みまたは電源オフのカードはスキップされます。
  • 初期化: ボードファームウェアによるバスマスターリング(Supermicro X11 など)は最初にクリアされます。既に初期化されたカードへのアクセスは拒否されます。
  • 表示用カード: 正常に動作します。リセット直前は画面が真っ白になりますが、
    nvidia-drm
    が引き継ぐまで続きます。

休止状態 (Suspend) と ハイベーン (Hibernate)

Suspend to RAM (メモリへの休止)

  • カードは電源オフとなり、速度選択レジスタがリセットされます。
  • 再開時:モジュールはブート時と同様に全てのカードを再度アンロックします。
    • サスペンド・ノティファイヤーは、NVIDIA の標準 (
      NVreg_UseKernelSuspendNotifiers=1
      ) より少し前に動作します。
    • これにより再起動までの時間が約 1 秒増加します。
  • 電源が維持された状態: アイドル休止時のカードは引き続きアンロックされており、単に読み取られるのみです。

Hibernation (ハイベーン)

  • 現時点では未対応です。

機能の無効化とトラブルシューティング

カーネル起動コマンドラインで以下の設定を有効にすると再開時の処理をスキップできます:

  • gpu_unlock.resume=0
  • または
    /sys/module/gpu_unlock/parameters/resume
    に
    0
    を書き込む。

状態の確認コマンド

# ログを確認する
journalctl -k -b | grep gpu_unlock

# PCI デバイス情報 (例)
lspci -nnk -s 0000:21:00.0

アンロックの停止

  • カーネル起動コマンドラインから
    gpu_unlock.targets=
    を削除してください。
  • ワンオフ(一時的な)ブートの場合:ブートローダーのエディット画面で引数を削除します。
  • パッケージを削除しても、モジュールと initramfs のドロップインは残っている場合があります。

ファームウェアが止まらない場合: モジュールログを確認し、必要に応じて電源を切り再起動してください。DMA バッファーの保持により、ファームウェアが継続使用されている可能性があります。


ライセンス情報

  • カーネルモジュール & ローカルパッケージ化: GPL-2.0 専用ライセンス。
  • 生成されたペイロード: パッチ済み CMP リファレンスから派生しています。
  • NVIDIA ファームウェア: NVIDIA の独自利用条件の下で動作します。
  • 詳細なクレジット表記については
    firmware/NOTICE.md
    および
    licenses/
    を参照してください。

スポンサーのお願い

開発者の維持と GPU 購入に寄与していただけますと幸いです! <3

クロネート方法

  • Buy Me a Coffee: https://buymeacoffee.com/zagitta
  • Ethereum (ETH):
    0xf4eee937937f92038D70B16AbD7736D8a53a1c5c
  • Bitcoin (BTC):
    bc1qwpkwp70fn76z3s4kg2l9y3j4kst95twcznuugf
  • Solana (SOL):
    8Rih6HY7V4LcdjYHz4iSffT4fTniqw5CACaBigSVxNYu

同じ日のほかのニュース

一覧に戻る →

2026/10/25 8:11

米国のメディア・映画・芸術分野で20万人の雇用が失われた。その内訳はいくらなのか?AIの影響はどれくらいか?

## Japanese Translation: ## サマリー: 米国のクリエイティブ産業は歴史的な縮小に直面しており、雇用喪失の規模は 2001 年および 2008 年の不況と匹敵する深刻さです。この減少の主因は、映画制作、サウンド録音、出版セクターにおける大規模なリストラにあります。ハリウッドだけで 4 年で 10 万超の雇用を失い、同セクター全体の雇用の約3分の1となり、総雇用数は 2008 年以来の水準に後退し、30 年ぶりの低水準に近づいています。同様の期間中に記述出版物は約 7 万の雇用を喪失し、デジタルアートの各サブセクターも減少を続けており、特に新聞社のスタッフ数は 90 年代以降に 85% も減少し、雑誌出版業者は同期間でスタッフの 66% を失っています。ツアーや物理メディア販売によって支えられていた過去の時代とは異なり、現在のストリーミング収益では以前ほどの水準には達せず、音楽業界もそのビジネスモデルをシフトさせています。この経済的後退に拍車をかけているのは人工知能技術の戦略的な転換です。これらの労働者の約 32% がすでに生成型 AI を利用しているにもかかわらず、画像、映像、音楽生成などの高コスト分野では数学や科学への投資と比較して経済的リターンが低いため、テックセクターはそうした分野から撤退しており(アンソルピックなどで見られるように)、AI ツールによる迅速な回復は短期間で望むことはできず、伝統的なアートの労働力にとって長引く課題を示唆しています。さらに状況は複雑化しており、2022 年のテック雇用の増加が約 30 万でしたが、それ以降毎年雇用を喪失し続けており、これらのデジタルの逆風にもかかわらず対面エンターテインメントは引き続き成長しているという事実が加わっています。

2026/10/25 6:47

構築するソフトウェアに対し、より雄大であるべきです

## 日本語訳: 本件の核心メッセージは、高度な AI ツールを利用する個人が、大規模資金調達なしに高パフォーマンスで影響力のあるソフトウェアを構築できる可能性を示しており、「vibeslop」や低品質な AI 出力に対する懐疑論に挑戦している点です。具体的な証拠としては、Michael Malis の pgrust プロジェクトがあり、これは PostgreSQL に重大なバグ(SP-GiST、JSONPath、pgcrypto、メモリ安全性)を発見しており、メインプロジェクトが成功しない場合でもその最適化は Clickhouse などの主要システムを採用される可能性があります。パフォーマンスは重要な推進力であり、AI モデルは今や数年を要する論文やコードベースからの複雑な技術(例:カスタムレギュラー表現式エンジン、ボードゲーム AI、IMAP RFC 処理)を数時間以内に実装しており、Ripgrep 検索、Rust コンパイル、ファイルシステムオーバーヘッドなどのタスクにおけるボトルネックを大幅に減少させています。大規模な研究所が SOTA モデルのために高価なハードウェアを使用する一方、独立した取り組みは AI が検証および実装可能な能力の差が広がっていることを証明しており、これによりエンジニアリング課題への挑戦が最小限のオーバーヘッドで行えるようになり、データベースおよびツールエコシステムにおける漸進的な進展を促進しています。

2026/10/25 4:06

Goose プログラミング言語

## 日本語訳: Goose は、動的値をコンパイラ管理のスタック上にインライン保持することで、ヒープ割当とガベージコレクションを排除し、メモリ安全性を実現するシステム言語です。リソースの解放は手動のデアロケーションではなくスコープ終了経由で行われ、単一スタックメモリモデルによって再割当なしでの成長がサポートされ、参照がポインタが進むにつれて拡大する配列内を維持します。コンパイラはすべての参照に対する静的ルートを自動的に推論し、所有者よりも長生きする可能性があるものは却下し、ライフタイムアノテーションやアンセーフブロックの必要はありません。 パフォーマンスベンチマークでは、Goose が標準的な C++、手動最適化された C++、そして安全な Rust に比べて速度とメモリ使用量でともに優れています:標準的な C++ の場合最高 3.3 倍高速に動作し、メモリ使用量は約半分(1.9 倍削減)です。アーキテクチャ上の革新であるバリアントモード enums(各バリアントの正確なサイズを格納)、ナローリンク(位置非依存参照のために 1/2/4 バイトのオフセットを使用)、およびインプレース構築は、オーバーヘッドが著しく低い連続したネスト型データ構造を可能にします。エラーは関数フレーム間を静的に返すことができ、アンワインダーや Result タイプを必要とせず、スレッドは分離されたメモリ空間で動作し、memcpy によってフラットな値が転送されることでデータ競合とロックを回避します。全体として、Goose は組み込みシステムや高频度取引といったクリティカルドメインにおいて高いパフォーマンスと安全性を提供するとともに、開発ライフサイクルを簡素化します。

Nvidia 3000 シリーズ GPU の FP/BF16 命令発行レートについて | そっか~ニュース