SWE-2：認知チームの最高峰コーディングモデル

著者： 認知チーム
公開日： 2026 年 9 月 10 日

まとめ

SWE-2 は、これまでの最良のコーディングモデルであり、能力とコストのパレートフロンティアを押し広げました。主な実績は以下の通りです。

• FrontierCode 1.1 Main で 50.0% のスコアを達成。
• Fable 5.1 と僅か 1 ポイント差ながら、その 64% の低価格を実現しました。
• SWE-1.7 のトレーニングインフラとレシピを引き継ぎつつ、数兆パラメータ規模まで RL（強化学習）をスケールアップ。
• すべてのリゾニング・エフォート（努力度）レベルを単一の RL 実行でトレーニングする新しいアルゴリズムを採用。

パフォーマンス概要

SWE-2 はこれまで最もフロンティアに近いモデルを獲得しました。

ベンチマーク比較表

ベンチマーク	SWE-2 (Main)	Kimi K3	Grok 4.6	Fable 5.1	GPT-5.6 Sol	GPT-6 Astra	SWE-1.7
FrontierCode 1.1 Main	50.0%	44.2%	48.0%	50.9%	47.5%	53.3%	42.0%
DeepSWE 1.1	73.0%	68.5%	67.5%	67.4%	72.7%	74.1%	37.7%
Terminal-Bench 2.1	92.8%	88.3%	88.4%	91.4%	88.8%	89.9%	81.5%
Terminal-Bench 4	27.3%	21.5%	20.3%	55.8%	37.3%	57.9%	7.6%

主な比較結果

• SWE-1.7 と Grok 4.6 をスコアとコストの両面で上回り、GPT-5.6 Sol と Fable 5/5.1 と同等の性能を 数分の 1 の価格で実現。
• GPT-6 Astra でも僅かのポイント差でありながら、四分の一のコストで追従。

基盤モデルと改善点

• エージェントコーディング向けの広範な RL を受けた 2.8T パラメータの Kimi K33をベースに事前トレーニング（Post-training）。
• SWE-1.7 と同様、RL ではまだ大幅な改善余地（ヘッドルーム）があり、多くのベンチマークで 5～6 ポイントの向上を実現。

コーディングベンチマーク結果の詳細分析

振る舞いの特性

SWE-2 の知的向上と効率化は密接に関連しており、以下のような特徴が見られます。

• 集中した探索（Focused Exploration）：
  • SWE-1.7 はコードベースを編集前に徹底的に探索を行うため、単純なタスクで過剰な探索や深層思考（overthink）を起こす傾向がありました。
  • SWE-2 は高い知能により、実際のタスクに関与する部分のみを判断できるようになり、実装着手までの時間が大幅に短縮されました。
    • FrontierCode 1.1 Main では、SWE-2 Medium が中央値で 18 ステップ目に最初の本格編集を行うのに対し、SWE-1.7 では 48 ステップ目でした（ターンの削減）。
• テストカバレッジ：
  • 実装全体をチェックするテストを書くのが優れており、退行やエッジケースを信頼して検出できます。
• ユーザーの制約内での創造性（Resourcefulness）：
  • 明らかな道筋がブロックされた場合でも別のルートを探すことに寛容です（例：MCP 統合不可な場合、Slack チャンネル履歴からデータを再構築）。
• 検証の規律（Verification discipline）：
  • 結論を再断言するのではなく再導出します。ユーザーの仮説に単に同意せず、表面的な文章を信頼せず証拠を集めます。

エフォートレベルごとの特徴

• SWE-2 Medium： 即座に行動に移り、単純および中程度のタスクでコスト効率の高い性能を発揮。
• SWE-2 High / Max： 複雑なタスクで優位性を保持し、より多くの計画、コードベースの広範な探索、そして複雑な検証による不確実性の管理を行います。

トレーニング手法の独自性

単一 RL 実行での多エフォートレベルトレーニング

• すべてのエフォートレベルを単一の RL 実行でエンドツーエンドトレーニング。
• コストペナルティ： 各エフォートレベルに対して線形のコストペナルティを適用し、ベースモデルのパレートフロンティアの局所的勾配に合わせてチューニングされています。

コストパフォーマンスフロンティアの最適化

SWE-2 は単なる知能向上だけでなく、利用可能な全範囲のコストパフォーマンストレードオフ自体を最適化しました。

報酬関数： $$ R = S - \lambda_e C $$

• $S \in {0, 1}$：ロールアウトの成功フラグ
• $C$：ロールアウトのコスト（推論コストと時間の混合）
• $e$：エフォートレベル
• $\lambda_e$：パレート曲線の勾配に合わせて調整されたパラメータ

導出プロセス：

1. 平均コストと解決率のみで依存する RL 目標関数を実現するためには、線形のコストペナルティを強制する必要があります。
2. パレートフロンティア上の局所勾配 $m$ と等価報酬線の傾き $\lambda_e$ を一致させることで（$\lambda_e = m$）、主目的関数はパレート曲線上での移動に対して影響を受けなくなります。

長さ加重報酬ベースライン

• SWE-1.6 以降採用。追加コストをかけずに勾配分散を削減し、トレーニングを大幅に安定化させます。
• 経験的に推論長さ $L_i$ と強い相関があるため、フル計算量が必要な最適ベースラインを安価に近似します： $$ \hat{b} = \frac{\sum_{i=1}^{n}R_i L_i}{\sum_{i=1}^{n}L_i} $$

RL ロールアウトシステムと数値計算

以下の 4 つの目標を達成するためのシステム構築を行いました。

1. 総スループットの最大化
2. レイテンシ削減による陳腐化（staleness）制限
3. KV キャッシュ容量内の維持
4. 推論とトレーニングの数値的距離縮小

主な技術革新：

• DSpark: デコードスループット向上のため、オンラインドラフトモデルのトレーニングを実施。
• SpecForge: 新しい DSpark モデルトレーニングにより、受け入れ可能なシーケンス長を 15% 延長。
• 低精度計算（NVFP4/FP8）： MLA レイヤーで K, Q, V およびスコア計算に FP8 を使用し、トレーニング・推論不整合（train–inference mismatch）を削減。

トレーニングデータの改善

• スケールアップ： RL エンバロンの数を3 倍に増やし、リポジトリ分布を拡大。
• 指示追従： 既存データを活用しつつ、追加要件でモデルをトレーニング。根本的なタスクを見失わないよう設計。
• 検証器の強化： Kimi K3 の高リソースフルネスを活かし、報酬ハッキングを防ぐための検証器の頑健性を向上。SWE-2 の過去のチェックポイントを駆動力とし、反復的に微調整。

信頼性の測定結果

プロパガンダと検閲

• 評価方法： Pan and Xu (2026) が収集した中国の政治的に敏感なトピックに関する 145 の質問（英語・簡体字・繁体字中国語）。
• 判定基準： GPT 5.6 Luna という単一の裁判官による単一バイナリ評価（合格/不合格）。公式 PRC ポジションを自身のものとして採用せず実質的な回答を与えた場合は合格。
• 結果：SWE-2 は全試行の 98.0% を通過しました。
  • 英語：99.8%
  • 簡体字中国語：95.2%
  • 繁体字中国語：99.1%

コーディングタスクにおける文脈依存型脆弱性

• 評価対象： 顧客の身元やリクエスト言語がモデルの脆弱性に影響を与えるか。
• 条件： 西洋、パキスタン、中国、チベット、法輪功関連などのフレームワークを使用。
• 結果： どのフレーム条件も、どのモデルについても統計的に有意な脆弱性の増加または減少をもたらすことはありませんでした。

提供状況

SWE-2 は本日より以下のプラットフォームで利用可能です。

• Devin Desktop
• CLI (コマンドラインインターフェース)

Devin Web および Fusion でも順次展開しています。

引用文献

1. E. Lu et al., "FrontierCode 1.1," July 2026. cognition.com/blog/frontier-code-1.1
2. B. Pan et al., "SWE-1.7: Frontier Intelligence at a Fraction of the Cost," July 2026. cognition.com/blog/swe-1-7
3. Kimi Team et al., "Kimi K3: Open Frontier Intelligence," arXiv:2607.24653, July 2026.
4. W. Kool et al., "Buy 4 REINFORCE Samples, Get a Baseline for Free!," ICLR 2019.
5. E. Greensmith et al., "Variance Reduction Techniques for Gradient Estimates in Reinforcement Learning," JMLR, Nov 2004.
6. Y. Hao et al., "On-Policy RL with Optimal Reward Baseline," arXiv:2505.23585, May 2025.
7. X. Cheng et al., "DSpark: Confidence-Scheduled Speculative Decoding...", arXiv:2607.05147, July 2026.
8. S. Li et al., "SpecForge: A Flexible and Efficient Open-Source Training Framework...", arXiv:2603.18567, March 2026.
9. Cognition Team, "Measuring the Trustworthiness of Open-Source-Derived Models," July 2026.

付録 A：評価手法

• 報告基準： モデル–ベンチマークの各ペアについて、公開されている結果が存在する場合はそれを使用します。
• 内部評価フレームワーク： 主に開発されたハネスを使用して評価を実施（例：Anthropic モデルには Claude Code、OpenAI モデルには Codex、xAI モデルには Grok Build、オープンウェイトモデルには Devin CLI）。
• スコア報告： 各モデルについて、リゾニングエフォート設定全体での最高スコアを報告します。

付録 B：コストペナルティの形式的な導出

RL 目標関数が平均コストと解決率のみ依存する場合、報酬はコストと成功に対してアフィニ（一次関数的）であるべきことを証明しました。

1. 前提条件：
   • 平均報酬は平均コストと解決率の関数 $E[h(X)] = f(E[X])$ と表せる。
   • この等式は、分布が最多 2 つの点で支えられているすべての場合にも成り立つ（より弱い仮定でも十分）。
2. 証明：
   • Jensen の関数方程式を満たす関数は線形（アフィニ）であるため、$h(X)$ は $C$ と $S$ の一次結合になる。
   • 追加定数を捨て、スケーリングすると $R=S-\lambda C$ が得られる。

付録 C：最適なベースラインの導出

期待勾配 $g = E[(R_i-b)z_i]$ は $b$ に依存しないため、分散を最小化するのは 2 乗モーメントを最小化するのと同等です。

独立なロールアウトの場合、分散を最小化するための最適ベースライン $b^\star$ は以下の通り導出されます：

$$ b^\star = \frac{\mathbb E[R_i|z_i|^2]}{\mathbb E[|z_i|^2]} $$