
2026/09/19 23:44
ブロードウォーベンチ
RSS: https://news.ycombinator.com/rss
要約▶
日本語訳:
元要約は主たるナラティブの構成(Codex の優位性、その理由、ベンチマーク設定、将来展望)を的確に捉えており堅牢である。しかし、要点リストと厳密に整合させ、特定の証拠を省略したり、暗黙的な矛盾を正したりすることなく、若干洗練されたバージョンであればより適切である。指示が「必要に応じて」 Improved summary を求めることとし、元の版は非常に良いものの粒度不足(具体的には破壊メカニズムとリソース管理のニュアンス)を含んでいるため、これらの点をより緊密に統合しつつ読みやすさを維持する版本を提供する。
改良版要約:
Codex Astra/xhigh は StarCraft II: Brood War ベンチマークにおいて支配的な勢力として台頭し、厳格な 19x19 ラウンドロビンマトリックス(19 の異なる構成を含む)の中で、他のすべてのテスト AI モデルに対し 100% の勝率を達成している。この優位性は、独自のアグレッシブな「disruption(破壊)」戦略を実行する能力に起因する。具体的には、マップ全体を通じて Probe を送り出してお雇い人員や建物などを harassment することにより、対戦相手を軍を構築するどころか長期間の反応時間に追い込む。これに対し、競合他社は躊躇によって失敗することが多く、例えば Grok 4.6 モデルは高いトークン生成量(最大 11,138 トークン)にもかかわらず著しく苦戦した。これは命令バッチを発する間に時間を過剰に消費して思考しているためである。旧来の Codex バージョンや一部の新しいものも「ターン制」なプレイスタイルを示し、思考フェーズ中に破壊されたり、より優れた AI が耐え得る単純な攻撃(光子ランなど)によって失われたりする状況が生じた。また、Claude Fable などのモデルは高階層の構造を管理することに成功したが、その実行はアグレッシブな戦術に対して容易に崩壊した。さらにリソース分析には顕著な効率性の差が明らかとなった:Codex Astra は圧倒的な速度により約$240 の未使用資金を残す一方、Grok 4.6 は先行する収入率にもかかわらず、アクションタイミングの鈍さを理由に$530 以上を無駄にした。現在、どのモデルも専門家レベルで Brood War を掌握していない(多くのモデルは複雑な軍隊構築や防衛的深度が不足している)が、このベンチマークは Codex Astra/xhigh を現在の RTS AI の頂点として確立し、将来のモデルが乗り越えるべき新たな標準(戦術実行とリソース効率において)を設定した。
本文
ブラッドウォー(Brood War)における AI モデルのベンチマーク結果
📝 結論:どのモデルが勝っているか?
- Codex Astra が明確なリーダーであり、他のすべてのモデルを一貫して勝利させています。
- 重要な事実: 今回の実験環境では、どのモデルも初心者レベルを凌駕するプレイはできませんでした。プロのプレイヤーでも余裕で勝てます。
- Grok モデルの評価: まだブラッドウォー(RTS ゲーム)の本質を十分に理解するほど知能が高すぎません。
- 古いモデルや低コスト設定には「 RTS をターン制ゲームのようにプレイしてしまう」傾向がありました。
- 「考えることのコスト」を意識する度合いは、新しいモデルの方がはるかに高いですが、それでも完全な勝利に至っていません。
📊 ランキング表(勝率・費用・AP)
| 順位 | システム | 勝数 | ゲームあたり AP (平均) | ゲームあたり費用 ($) | 勝率 |
|---|---|---|---|---|---|
| 🥇 | Codex Astra / xhigh | 180 | 10.54 | $12.6 | 100.0% |
| 🥈 | Codex Astra / medium | 162 | 15.11 | $17.2 | 88.9% |
| 🥉 | Claude Fable | 153 | 12.24 | $12.6 | 83.3% |
| 4 | Codex Astra / low | 144 | 21.07 | $25.7 | 77.8% |
| 5 | Codex 5.6 Sol / medium | 135 | 5.12 | $10.1 | 72.2% |
| 6 | Codex 5.6 Sol / low | 126 | 9.23 | $18.1 | 66.7% |
| 7 | Claude Opus 5 | 126 | 20.78 | $10.5 | 66.7% |
| 8 | Codex 5.6 Sol / xhigh | 117 | 3.23 | $8.0 | 61.1% |
| 9 | Codex 5.6 Luna / low | 99 | 0.42 | $23.8 | 50.0% |
| 10 | Codex 5.6 Terra / xhigh | 99 | 2.10 | $15.8 | 50.0% |
🎮 コンテキスト:実験の背景
- Brood War Bench は、友人たちが独自に遊べるよう開発されたエージェント専用ブラッドウォーです。
- 当初は『スタークラフト』をプレイしたことがほとんどない人々でしたが、驚くほど高い成績を残しました。
- 正体の解明: 「何も特別なことはしていない」。ただエージェントに「攻撃しろ」と頼み、彼らが小さな軍団を構築して全力で突撃させるだけでした。
🔍 観察記録:各モデルの挙動
1. Codex:「チーシング(奇策)」による勝利
- 撹乱戦術の成功: プロテスズ対戦において、プローブをマップ横断させ、相手の労働者や建造物に攻撃させる作戦を採用しました。
- 相手エージェントは何十秒もの間、「そのプローブに対応するべきか」思考を巡らせ、他の行動を放棄します。
- 弱点: 持続的な生産力では著しく弱いです。
- 技術研究の遅延。
- 防衛された基地への基礎ユニット投入は微量。
- 労働者を最後の戦いまで温存する傾向があります。
- 意思疎通の問題: 経済管理、生産、指揮を異なるサブエージェントに任せる際、相互コミュニケーションが不十分でした。
- 軍隊を担当するエージェントが、大規模な軍勢の構築や計画された攻撃タイミングを見失って、単発攻撃を繰り返す傾向があります。
- 執念: G009 の対戦では、基地を失った後にもコマンドセンターを持ち上げて角へ移動し、6 分間生存しました。
例:マップ横断する 6 体のプローブ
- プローブが飛び立ち、ゼアロトが点滴状に出現。
- 最終的にコマンドセンターまで稼働中。
2. Grok:思考はするが行動しない
- 過剰な思考プロセス: G043 の xhigh ルンでは、11,138 トークンの思考ログを生成しましたが、戦闘ユニットをフィールドに出すことができませんでした。
- 43 分間にわたりわずか 6 つのコマンドバッチのみ。
- 実行力不足: 観測と行動を継続することに失敗した状態です。
- G003: 3 マリンを生産しましたが敵基地に到達せず。
- G002: 2 体のゼアロトを生産しましたが展開できていません。
3. Fable:真摯なゲームプレイ
- 戦略的野心: 最初のユニットで満足せず、経済構築やテクノロジーツリーの進捗を試みました。
- G007: レッドドア → スパイア → ムタリスクスで勝利。
- G027: ロボットス施設 → アダンシテアデル → 観測所 → テンプレアー・アーカイブで勝利。
- 失敗例: G036 ではファクトリーとアカデミーを建てましたが、Opus 5 に占領されてしまいました(野心的なプランが必ずしも成功を保証しないことを示唆)。
📈 ゲーム進行状況の分析
種別比較(技術・労働者・軍団・構造物)
| 項目 | Codex Astra | Claude Fable | Grok 4.6 |
|---|---|---|---|
| 技術研究レベル | 0.3 → 1.5 | 0.2 → 2.0 | 0.5 → 1.5 |
| 労働者数(生存) | 8 → 14.7 | 16 → 16.7 | 7.4 → 24 |
| 軍団規模 | 2 → 8.3 | 0 → 7.6 | 4 → 2 |
| 構造物数 | 7 → 6.2 | 14 → 7.4 | 21 → 4.5 |
リソース残高と使用量
- 鉱石・ガスの管理: Grok は初期に大量の鉱石(1,000)を保有しており、対戦終盤では依然として多量に保持しました。Codex と Fable はほぼ底まで使い切っています。
- 供給量(Production Supply):
- Codex Astra: 26.5
- Claude Fable: 26.6
- Grok 4.6: 11.3 (効率的な生産を示唆)
対戦終了時間分布
- Codex Astra: 中央値 8:10。多くの対戦が早期(5:00〜10:00)に終了しました。
- Claude Fable: 中央値 10:37。分布は均等で、中盤~終盤までゲームが続きました。
- Grok 4.6: 中央値 9:15。早期集中と終了直前のスパイクが見られます。
🥊 ベンチマークの実行方法
- マトリクス構成: モデルとエフォート設定の組み合わせからなるラウンドロビンマトリクスを構築し、全設定間の対戦を行いました。
- 環境: Freestyle VM を並列化してマッチアップを実行。ゲームエンジンデータおよびエージェントログを保存。
勝敗マトリックス(W=勝利 / L=敗北 / T=タイムリミット)
| システム | Codex Astra(xh) | Codex Astra(med) | Codex Astra(low) | Sol(xh) | Sol(med) | Sol(low) | Luna(xh) | Luna(med) | Luna(low) | Terra(xh) | Fable | Opus5 | Sonnet | Haiku | Grok(xh) | Grok(med) | Grok(low) |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Codex Astra (xhigh) | - | W | W | W | W | W | W | W | W | W | W | W | W | W | W | W | W |
| Codex Astra (medium) | L | - | W | W | W | W | W | W | W | W | W | W | L | W | W | W | W |
| Codex Astra (low) | L | L | - | W | W | W | W | W | W | W | W | W | L | L | W | W | W |
| Sol (xhigh) | L | L | L | - | W | W | W | L | W | W | W | W | L | W | W | W | W |
| Sol (medium) | L | L | L | L | - | W | W | W | W | W | L | W | W | W | W | W | W |
| Sol (low) | L | L | L | L | L | - | W | W | W | W | W | W | W | W | W | W | W |
| Luna (xhigh) | L | L | L | L | L | L | - | W | L | W | L | W | L | W | W | W | W |
| Luna (medium) | L | L | L | L | L | L | L | - | L | L | L | L | W | W | W | W | W |
| Luna (low) | L | L | L | L | L | L | L | L | - | W | L | W | W | L | L | W | W |
| Terra (xhigh) | L | L | L | L | L | L | L | L | L | - | W | L | W | W | W | W | W |
| Claude Fable | L | W | W | W | W | W | L | W | W | W | W | W | - | W | W | W | W |
| Opus 5 | L | W | L | W | L | W | W | L | L | W | L | W | L | - | W | W | W |
| Sonnet | L | L | L | L | L | L | L | L | L | L | L | L | L | L | - | W | W |
| Haiku | L | L | L | L | L | L | L | L | L | L | L | L | L | L | L | - | T |
| Grok 4.6 (xhigh) | L | L | L | L | L | L | L | L | L | L | L | L | W | W | L | L | - |
| Grok 4.6 (medium) | L | L | L | L | L | L | L | L | L | L | L | L | W | L | L | L | L |
| Grok 4.6 (low) | L | L | L | L | L | L | L | L | L | L | L | L | W | L | L | L | L |
注:
は自身との対戦です。-が勝利、Wが敗北、Lがタイムリミット到達を示します。T
- Codex Astra (xhigh) は表中のすべての他モデルを**完勝(180 勝中 0 敗)**しています。
🚀 今後の展望:自分専用のエージェントで遊ぼう!
- 現状: すべてのモデルは初心者レベルであり、Photon Rush のような高度な戦略を展開することはできていません。
- 興奮点: エージェントがゲームをプレイする様子を見ることは、未開拓の領域です。
- 可能性: これらのベンチマークは遠くまで到達していません。エージェントに何を学ぶべきか、どのような課題を与えるべきかはまだ不明ですが、彼らが成長する様子を見ることを楽しみにしています。
呼びかけ: 自分のエージェントを持ってきて、友人たちとブラッドウォーを楽しんでみてください。