
2026/10/16 23:18
Show HN: Gemini 4 Argon がスタークラフトをプレイします
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
StarSkirmish Bench v0.2 ベンチマークは、BWAPI 4.4.0 を OpenBW 上で使用して C++ で競合的なプロトスボットを生成する大規模言語モデル(LLM)の能力を評価するものです。評価対象はハートブレイク・リッジ、ベンゼン、ディスタニエーションの3つのラダーマップで、各モデルのパフォーマンスは 5 回のランにおける平均勝利率(ELO は使用しない)で測定されます。生成されたボットは各マップについて 13 のロスターボットのすべてを 6 回ずつプレイし、すべての試行において新しいシード値を使用します。これらは厳格な 1 時間の壁時計時間制限内で実行されます。GPT-6 Astra が約49%の平均勝利率でトップですが、スタードスなど上位レベルの人間によって書かれたボットに対してはそれでも約7%しか勝てません。Gemini 4 Argon、Claude Opus 5.5、そして Claude Fable 5.1 は 37–39% の間を記録し、後従しています。GPT-6.1 Sol が第2位で、1 ランあたりの API 費用は GPT-6 Astra の約 1/10 でコスト効果の高い代替案を提供します。結果はラン間で高い変動を示しており(例:Gemini 4 Argon は±18 ポイント、GPT-6 Astra は±9 ポイント)、単一のテストでは能力の証明とはなり得ないことを示しています。パフォーマンスを最も強く予測する要因は推論への生来の努力ではなく、セッション中に7番目に強力なボットに対する練習に費やす時間量です。Muse Wonder Full や一部の Claude は高いスコアを得ながら主に弱いボットに対して練習を行っていますが、GPT-6 Astra、GPT-6.1 Sol、そして Gemini 4 Argon は早期段階から強力な相手に対して練習を優先しています。このベンチマークは Vals IOI と WeirdML と中程度の相関を示しますが、人工知能分析インテリジェンス指数との相関は低い(ρ ≒ 0.26)です。全体として、現在の AI 生成ボットはいくつかの特定の競技的シナリオにおいて確立された人間のコードに後れを取っており、生成されたボットのパフォーマンスを改善するためには即時の推論への依存のみではなく、練習のための時間配分を最適化することがより効果的です。
本文
StarSkirmish ベンチマーク v0.2 報告書:LLM のスタークラフトボット開発能力評価
TL;DR
- StarSkirmish は、LLM が『スタークラフト:ブラッドワーズ』用の C++ プロトッスボットを記述するベンチマーク。各 LLM には**1 時間(ウォールクロック)**が与えられ、生成されたボットは既存の人間開発ボットや他の LLM ボットに対して評価されます。
- StarSkirmish ベンチマーク v0.2 は、OpenAI、Anthropic、Google、Meta のフラッグシップモデルを各ラボルの第 1 パーティ CLI ハarness で動作させ、v0.1 からアップデートされました。
- LLM のスコアは、競技用人間開発ボットおよびデモボットのロスターに対する勝率を反映します(0〜100 スケール)。
- GPT-6 Astra:最高スコア獲得。GPT-6.1 Sol を明確に上回り 1 位。
- Gemini 4 Argon、Claude Opus 5.5、Claude Fable 5.1 が 2 位〜3 位を占め、スコアは37〜39の範囲で実質同点です。
- GPT-6.1 Sol:コストパフォーマンスにおいて最上位。GPT-6 Astra の約 1/10 コストで 2 位となり、最も魅力的な「高スコアかつ低コスト」領域に位置する唯一の LLM です。
- GPT-6 Astra:最高スコア獲得。GPT-6.1 Sol を明確に上回り 1 位。
飽和の兆候なし
- 最強の人間開発ボットは依然として凌駕されています。
- トップモデルである GPT-6 Astra でさえ、トップクラスの人間開発ボットに対して勝率は僅か**7%**に留まります。
- 対戦対象:
、Stardust
、PurpleWave
の 3 つの人間ボット。BananaBrain- 1 時間の推論時間制限下での結果であり、実際のトーナメント環境よりも単純化された条件です。
新 AI モデルハイライト
- Google と Meta の新フラッグシップモデルが v0.1 から後継モデルに更新されました。
- v0.1:
およびGemini 3.8 FlashMuse Spark 1.3 - v0.2:
: 3 位入賞(「high」設定で動作)。Gemini 4 Argon
: 7 位入賞。Muse Wonder Full
- v0.1:
- GPT-6 Astra と Claude Opus 5.5 は引き続き高い評価を得ています。
AI モデルの振る舞いと分析
エージェントの戦略パターン
- スコアを予測する最も強い要因は、最強ボットとの対戦練習回数です。
- 早期練習型:
、GPT-6 Astra
、GPT-6.1 Sol
は自らのボットがまだ負けていた段階から早期に対戦を開始しました。Gemini 4 Argon - 非練習型:
、Muse Wonder Full
、Claude Haiku 5.5
は稀に全く練習を行いませんでした。GPT-6 Luna - 特異点:
は勝率37を記録しているが、ほとんど弱いボットとのみ対戦を通じて練習を行っています(戦略的矛盾)。Claude Fable 5.1
ランごとの分散
- 各モデルの 5 つのランには結果にばらつきがあります。
- Gemini 4 Argon: 変動が非常に大きく、最高と最低の差が18 ポイント。
- 対比:
(9 ポイント)、GPT-6 Astra
(8 ポイント)の方が安定しています。Claude Opus 5.5
- 対比:
- Gemini 4 Argon: 変動が非常に大きく、最高と最低の差が18 ポイント。
実装の詳細
目的 (Objective)
- 環境: BWAPI 4.4.0 / OpenBW 上での C++ プロトッスボット開発。
- 試合形式:
- マップ:
、Heartbreak Ridge
、Benzene
の 3 つのラダーマップ。Destination - 条件:一方の陣営建造物が全滅するか、60 分(86,400 フレーム)経過した場合終了。
- 時間超過時:殺傷数および破壊スコアで勝敗判定(BASIL ラッドルール準拠)。
- マップ:
- 開発フロー:
- 採掘のみを行うスケルトンボットからスタート。
- 3 つのデモボットおよび 2 つの標準ライブラリ (
: 戦闘シミュレーター、FAP
: マップアナライザー) のソースコードを提供。BWEM - コンパイル継続が必要(1 時間終了時点でボットフォルダに存在するものが最終品)。
- ツール: コンパイル実行、練習試合サマリー/トランスクリプト読み込み、自ボットログ閲覧機能付き。
- 練習相手 (ティア制):
- D: デモボット 3 つ
- C, B: 中級ランク人間開発ボット(各 3 つ)
- A:
,BananaBrainLocutus - S:
,Stardust
(最強)PurpleWave
トーナメント設定 (Tournament Setup)
- LLM ボット数: モデルあたり5 個。
- 相手ロスター: 固定の 13 ボット(人間開発ボット 10 + デモボット 3)。
- 試合形式: LLM ボットの 5 個が、ロスターの 13 ボットそれぞれと 3 マップ×6 回ずつ対戦。
- 各ラウンドで新しいシード値を使用。
- v0.1 との違い: LLM ボット同士は互いに戦いません(並行処理)。
ハarness と推論 (Harness and Reasoning)
- バージョン変遷:
- v0.1: 全てのモデルを同一のハarness で「high」設定実行。
- v0.2: 各ラボルの第 1 パーティ CLI ハarnessを使用し、最大限の推論設定(
)で動作(Gemini 4 Argon は harness 制限によりmax
)。high
- 主要ハarness (v0.2):
- Claude: Opus 5.5, Fable 5.1, Sonnet 5.5, Haiku 5.5 (CLI: Claude Code 2.1.296) - Codex: GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna (CLI: Codex 0.162.1) - Antigravity: Gemini 4 Argon (CLI: Antigravity CLI 1.3.5) - Muse Code: Muse Wonder Full (CLI: Muse Code 1.4.7) - コンテキスト管理:
- 約25 万トークンに圧縮。90% に達すると自動圧縮(例:Codex はデフォルト 27.2 万→圧縮トリガー)。
- 制限事項:
- Web 検索/フェッチオフ、インターネットアクセス禁止。
- Submit ツールなし(ハarness が時間経過と共にボットを取得)。
スコアリング (Scoring)
- 計算方式: 単純な勝率を使用(v0.1 の Elo レートから変更)。
- スコア範囲:0〜100(0: 全敗, 100: 全勝)。
- 最終スコア:5 つのボットの平均勝率。
- 公平性:
- 固定ロスターとの対戦により、他 LLM ボットの存在に依存しない。
- 並行実行のためリプレイ再生不要。
- 固定ロスターによる時間経過での基準維持により、同一フィールド内での Elo レートが直接比較可能。
ベンチマーク相関性 (Benchmark Correlations)
- AI Index: 弱相関($\rho = 0.26$)。トップの
でも 9 モデル中 4 位に留まる。GPT-6 Astra - Terminal-Bench 4.0: v0.1 との関連性が低下。
とClaude Sonnet 5.5
はスコアが下部にある。Muse Wonder Full - WeirdML v3: 9 モデル中 7 つをスコア付け(執筆時点で
とGemini 4 Argon
は除外)。Muse Wonder Full - 継続追跡指標: Vals IOI および WeirdML を引き続き追跡中。
- 結論:モデルが調整するターゲットである最も頻繁な評価指標には相関せず、長期的推論・困難なコーディングタスクに対するテストの方が連動している。