エネルギーベース推論器:推論が385倍効率化

2026/11/18 18:29

エネルギーベース推論器:推論が385倍効率化

RSS: https://news.ycombinator.com/rss

要約▶

Japanese Translation:

本研究における最も重大な進展は、外部チェックャーを必要とせず複雑な推論を行うことができる新しい AI モデルであるエネルギーベースド・リーズナー(EBR)の導入です。これにより計算コストが劇的に削減されました。EBR は、難易度の高いタスク(例:数独や N-皇后問題)において最先端の性能を達成するとともに、競合手法が莫大なリソースを必要とする一方で、わずか 180 万パラメータという少ないパラメータ数で動作します。EBR は、候補解答に対して内部の「エネルギー」スコアを割り当てることで機能し、勾配降下法を用いてこれらの解答を自動的に改善し、進捗が停滞する時点で正確に停止することで時間を節約します。この革新的なアプローチはテストタイム・スケーリングと呼ばれ、システムがパズルの難易度に応じて努力を調整することを可能にし、固定された反復回数制限を保ちながら高い精度を確保します。その結果、開発者からは次点のモデルよりも 345 倍少ない浮動小数点演算(FLOPs)を使用しながらも優れた単一样例精度を実現するスケーラブルなソリューションが期待できます。これは、効率的で自律的な推論システムへの大きな転換であり、より広い産業での採用に向けた準備が整いました。

本文

エネルギーベースの推論器:再帰的な推論モデルはエネルギーベースモデルであるべき

要約(TL;DR)

本研究では、以下の特徴を持つ新しい推論モデル「エネルギーベースの推論器(EBR)」を導入します。

  • エネルギー関数の学習:潜在的な推論状態に関するエネルギー関数を学習し、ループ状の更新をエネルギーに対する勾配降下法として定式化します。
  • 外部検証器不要:候補予測に対して価値スコアを与えつつ、改良方向(勾配)と停止シグナル(低エネルギー状態)を内生的に提供します。
  • 高い効率性:パラメータ数わずか 180 万 で「Sudoku-Extreme」において 99.9% の高精度を実現し、次点モデルと比較して推論時の計算コストを 345 倍削減。
  • 網羅性の高さ:「N-Queens(皇后問題)」や「グラフ彩色問題」では、単一样本あたりの精度をほぼ 100% に保ちながら、最良の解の網羅率(カバー率)を達成。

抄録(Abstract)

ループ化は推論において強力な帰納バイアスですが、既存のモデルは進捗測定や停止タイミングの決定が困難でした。本研究では以下の課題を解決します。

  • EBR の導入:エネルギー関数を学習することで、改善方向と停止条件を自動的に判断可能にしました。
    • エネルギーは状態の評価だけでなく、勾配を通じて改良方向性と停止シグナルを提供します。
  • 探索ベースの訓練:広範な状態集合においてエネルギー地形を形成し、追加的なモードを発見することを可能にする手法です。
  • ベンチマーク結果:4 つのアルゴリズミック推論ベンチマークで既存モデルと同等以上の性能を示しました。
    • 「Sudoku-Extreme」:99.9% の精度達成(次点モデルより計算量 345 倍削減)。
    • 訓練時の計算量も比較可能な水準を維持。
    • 多解答問題:単一样本あたりの精度をほぼ 100% に保ちつつ、異なる有効解の網羅率で最先端の結果を達成。

なぜエネルギーなのか?

既存のループ型推論器は明示的な評価なしに状態を更新する一方、EBR は以下の 4 つの要素を導くエネルギー関数を学習します。

  • スコア付け(Score):エネルギー値は推論状態と初期盤面との適合度を測ります。
    • エネルギーが低いほど適合度が高いことを意味します。
  • 改良(Refine):勾配はスコアを向上方向へ変換します。
  • 停止(Stop):勾配が小さくなるまで状態は定常化されるため、勾配自体が停止判定基準として機能します。
  • 選択(Select):複数の候補解のうち、エネルギー値が最低となるものを選択します。

正しい解答は、低エネルギーかつ勾配の小さな定常状態に収束します。「Sudoku-Extreme」の実験結果から、誤った経路は引き続き動き続ける一方、正しい経路は低いエネルギーと微小な勾配で安定することが確認されました。

テスト時のスケールアップ(Test-Time Scaling)

以下のメカニズムにより精度が向上し、最適な解を選別できます。

  • 下降ステップの増加:各解答の精度がさらに向上します。
  • 軌道の増大:より多くの軌道(trajectory)を走査することで、エネルギーがより多くの候補の中から最低エネルギーのものを選別できるようになります。

EBR は、EqR が到達した最高精度と同等の性能を、以下のリソース削減で達成します。

  • 反復回数:7 倍少ない
  • サンプリング数:43 倍少ない

注釈:データは GRAM の論文および公開されたチェックポイントから抽出し、3 つのシードに対する平均±標準偏差です。

適応型停止(Adaptive Stopping)

各軌道はエネルギー勾配が閾値未満に低下した時点で自動停止します。

  • 課題依存の深さ:簡単なパズルはいくつかのステップで完了し、難しいパズルは継続します。
  • 単一样本あたりの精度最良:わずか 5 回のパス(pass)で、サンプリング数最大 128 に達する他の手法を上回る高精度を実現。
    • Sudoku-Extreme:99.9%
    • Maze-Hard:88.3%
  • 計算コストの削減:固定深さの EBR よりも 10.9 倍少ない FLOPs で 99.9% の精度を維持し、EqR を上回りながら性能を実現(EqR に対し 345 倍少ない FLOPs)。

パフォーマンス比較

単一样本あたりの精度(Sudoku-Extreme ↑, Maze-Hard ↑)

手法パラメータ数Sudoku-Extreme ↑ (%)Maze-Hard ↑ (%)
TRM5–7M87.4-
EqR5–7M93.0-
FPRM7M94.2-
GRAM10M86.6-
ループ型フロー (Looped flows)5–7M97.986.9
EBR(本研究)1.8M99.488.3

多サンプルでの精度(Coverage)

括弧内はサンプリング数(N)。ベースラインデータは GRAM の論文からの引用です。

手法パラメータ数Sudoku-Extreme ↑ (N)Maze-Hard ↑ (N)
PTRM5–7M98.8 (100)86.7 (100)
EqR5–7M99.8 (128)-
GRAM10M96.1 (20)-
ループ型フロー5–7M99.3 (5)86.9 (5)
EBR(本研究)1.8M99.9 (5)88.3 (5)

複数の解を持つ問題における性能

EBR は確率的勾配降下法のように振る舞い、多数の異なる解を捉えることができます。

  • Pass@1 (%):単一样本で正解を見つけ出す確率。
  • Conflict(エッジ数の合計):誤った制約違反の数値(低い方が良好)。
  • Cov@20 (%):20 件のサンプルが発見した異なる有効な解の割合(カバー率)。

単一样本 Pass@1 (%) と Conflict

手法N-Queens 8×8 (Pass@1 %)N-Queens 10×10 (Pass@1 % / Conflict)Graph Coloring 8 ノード (Pass@1 %)Graph Coloring 10 ノード (Pass@1 % / Conflict)
TRM66.817.5 / 9109
GRAM99.589.7 / 1722.35
EBR(本研究)10099.5 / 088.65

20 サンプルでのカバー率 (Cov@20 %)

手法N-Queens 8×8 (%)N-Queens 10×10 (%)Graph Coloring 8 ノード (%)Graph Coloring 10 ノード (%)
TRM22.62.022.36.8
GRAM89.757.585.851.3
EBR(本研究)98.192.088.654.5

引用形式(BibTeX)

@misc{chen2026energybasedreasoners,
  title         = {Energy-Based Reasoners: Your Recurrent Reasoner Should Be an Energy-Based Model},
  author        = {Chen, William Xingxu and Gladstone, Alexi and Li, Zeyu Michael and Ji, Heng and Du, Yilun},
  year          = {2026},
  eprint        = {2611.08977},
  archivePrefix = {arXiv},
  primaryClass  = {cs.LG},
  url           = {https://arxiv.org/abs/2611.08977}
}

同じ日のほかのニュース

一覧に戻る →

2026/11/19 0:19

Nginx における認証不要のリモートコード実行脆弱性

## 日本語翻訳: 要約は読みやすく整理されているものの、セキュリティ専門家や管理者が即座に対応するために必要な「重要ポイントリスト」に含まれる詳細な技術情報は不足している。具体的には CVE ID、バージョン番号、緩和コマンドが含まれていない。以下は、これらの欠落した事実を統合しつつ明瞭性を保った改訂版である。 ```markdown ## 改善された要約: Wiz Research、Ikotas Labs、Metnir、Rapid7、Xint を含むセキュリティ企業が個別に発見した NGINX ウェブサーバーの 2 つの重大な脆弱性(CVE-2026-123633 および CVE-2026-123007)について。これらの欠陥は、具体的に HTTP/2 の Use-After-Free エラーと整数アンダーフローであり、バックエンドアプリケーションが安全であっても攻撃者が任意のコードを実行しデータを盗み出すことを可能にする。これらの問題は CVSS スコア 9.2 を有し、CVE-2026-123007 は 2015 年にさかのぼり、コード上は最大 10 年間にわたって存在していた。攻撃を遂行するためには HTTP/2 が有効化されている必要があるが、標準的な緩和策である ASLR(アドレス空間のランダム化)も保護を提供せず、攻撃者は実行前にメモリを読み取ることができるためである。F5 は 2026 年 11 月 18 日にパッチをリリースし、組織に対し NGINX OSS 1.30.7/1.31.9 または NGINX Plus 37.0.7.1/37.0.8.1 への即時アップグレードを推奨している。即時アップグレードが不可能な場合、管理者は一時的に HTTP/2 を無効にする (`http2 off;`) べきである。これらの欠陥を無視することは、サーバーの既存のセキュリティ態勢に関わらず、完全な侵害に対して脆弱であることを意味する。 ```

2026/11/19 6:34

Gemini 4 ネオン

## Japanese Translation: Gemini 4 Neon は、大幅に低いコストで最先端レベルの成果を提供する高性能 AI モデルとして導入されます。入力トークンあたり 3 ドル、出力トークンあたり 15 ドルの料金設定(キャッシュされた入力は 95% の割引が適用)を有し、100 万 トークンの巨大なコンテキストウィンドウを搭載しています。ソフトウェア工学、知識労働、科学の分野における複雑なタスクにおいて、より高速な完了時間を提供します。 このモデルは、記録的な低い製造コストを実現するとともに、Terminal-Bench 4.0 における不正行為をゼロに抑えています。ベンチマークでは、人工分析知能指数で総合第 3 位(61)、Vals Index で第 2 位を獲得しました。特定分野においては、法務研究ベンチと税務エージェントベンチで第 1 位、財務および会計に関する大部分の Surge AI ベンチマークで第 1 位、チャートグラフィにて 73.5% のスコアを記録し、Terminal-Bench Science(70.5%)および RiemannBench(84.0%)において最高クラスの性能を発揮しています。 プロダクション環境でのコード生成においては、Google Antigravity 内の SWE-sweep で最良の結果の 3 倍という成果を達成(39.0% vs 12.8%)し、人工分析コーディングエージェント指数で第 1 位(58.6)となっています。また、サイバー防御においても優れており、WebExploitBench v1.2 で最良の性能(51.26%)、ハードティアの AutoBaxBench では高いパフォーマンスを達成しており、これらは競合モデルの約半分のコストで実現されています。 安全性は核心的な強みであり、Gray Swan の IPI ベンチマークにおける攻撃成功率は 0.0%、エージェントの誠実さ評価での合格率は 99.2% を記録しています。本モデルは現在、Gemini API、Google AI Studio、Gemini for business、Google Antigravity(有料 Pro/Ultra ユーザー向け)、および Gemini アプリ(Pro/Ultra サブスクリプター向け)を通じて利用可能です。また、サイバーセキュリティの防御者向けの専用アクセスプログラム「Fairwind Program」もまもなく開始されます。パレートのフロンティア性能と 32%~80% の低減された運用コストを組み合わせることで、Gemini 4 Neon は効率的な AI において新たな業界標準を設定します。

2026/11/19 1:08

7 つの新型モデルで、スケーラブルな価格性能を提供します

## Japanese Translation: 2026年11月17日、マイクロソフト・ignite(Ignite)でMAIは、価格対性能比に優れる7種類の新しいモデルを発表し、AIの景観を革命的に変えました。主なハイライトとしては、サイバーギム-E2EベンチマークにおいてGPT-6 Astraと同等かそれ以上の性能を達成しながら、そのコストの2%未満で実現する**MAI Cyber 2 Flash**、GPT-6.1 Solの98%およびClaude Opus 5.5の96%に達し、それぞれの価格の40%および5%のfraction(小数倍)で実現する**MAI Code 2 Performance**、競合製品の手頃な価格の1/5で画像編集分野で#1、テキストから画像生成分野で#4を達成した**MAI Image 2.7**などが挙げられます。また、このスイートには、GPT-Realtime 2.1を凌駕する性能を持つ(開始価格$0.01/min)「**MAI Realtime 1**」、月間1,000万件の患者受診に対応しエラー率を半減させる**Dragon Copilot Transcribe**、GPT-6.1 Solと比較して50倍速くかつ79倍安いマイクロソフトの「**Decision 1.1**」も含まれています。これらの進展は、生産段階にある新しい「**Maia 200 AI アクセラレータ**」(ワット当たり1.7倍多くのトークンを提供)と、プライベートなAzure環境内でプロプライエタリなデータを用いた安全なカスタマイズを可能にする新機能「**Licensed Weights**」によって支えられており、これにより完全なデータ主権とIP制御が確保されています。