2026/07/09 1:19
SWE-1.7 は GPT-5.5 と Opus Intelligence に迫る
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
SWE-1.7 は、今日までの最も能力的なモデルとして発表され、Kimi K2.7 という基盤に基づいて frontier レベルの知能を実現すると同時に、大幅に低いコストで動作します。2026 年 8 月 7 日にローンチされ、Cerebras を駆使して 1000 TPS で動作する Devin（Web、デスクトップ、CLI）を通じて直ちに利用可能です。同モデルは広範な強化学習によって以前の「ポストトレーニングの天井」を克服しています。その堅牢性は卓越したベンチマーク性能によって示されており、Terminal-Bench 2.1 では 81.5% の成功率、SWE-Bench Multilingual では 42.3%、FrontierCode 1.1 Main では 77.8% の成績を記録しました。技術的には、同システムは 3 ユーカンの 4 つのデータセンターにわたる新しいマルチクラスタートレーニングインフラストラクチャを活用し、ハードウェア障害が発生しても長時間の RL（強化学習）実行を停止させることなく処理する非同期的なフェイルテラランスを実現しています。さらに、トレーニングの安定性は、top-p サンプリングによるリプレイを用いてエントロピーを保つこと、およびトークン/ツールコストを管理しつつタスク成功に最適化する交互長さペナルティを通じて向上させられています。歴史的な制約（勾配ノイズ崩壊やコンテキスト лимит など）に対処するため、SWE-1.7 は自己圧縮技術を採用し、生データ以上のコンテキストウィンドウを延長しています。これには、チェッカーチェックと強固なチート防止機能を持つ高品質なデータパイプラインが支援しています。結果として、これらの進展により SWE-1.7 は凝縮された chain-of-thought と徹底的なコードベース探索を活用して根本原因を調査してから行動し、効率的に複雑で長期のタスクを実行することが可能となり、継続的な生産性を確保するとともに、産業のために高度な AI 能力を安定してアクセス可能にします。
本文
SWE-1.7：コストとパフォーマンスの Pareto 優越を実現する新世代 AI エージェント
本日より、能力を大幅に向上させつつ、大幅なコスト削減を実現した SWE-1.7 モデルを発表します。このモデルは、先端的な知能レベルを達成しながらも、従来のパラメータ増大に伴う限界（ Ceiling）を突破し、トレーニング効率の画期的な進歩を示しています。
主要な技術的進歩と特徴
SWE-1.7 は、以下の 4 つの重要な要素による包括的な改良に基づいています。これにより、強化学習（RL）のパフォーマンス上限に対する従来の考え方を根本から見直し、さらに高度な学習の可能性を示唆しました。
1. エントロピーの維持と学習の安定化
長期間にわたる RL トレーニングにおける「エントロピーの崩壊」と「数値的なドリフト」を解決し、学習の改善を継続可能としました。
- エントロピーの維持: Top-p サンプリングを採用し、モデルが探索を停止する現象を防ぎます。
- サンプリング分布の再現（Replay）: トレーニングと推論でのミスマッチを解消するため、「kept-set」を記録し、確率を再正規化する手法を導入しました。これによりエントロピーはほぼ一定に保たれます。
- 高価値なトークンへの焦点: 標準的な Top-p 閾値を超える低品質トークンを除外し、最適化アルゴリズムを高品質な学習シグナルに集中させます。
- オプタイマイザ: Muon オプタイマイザーを採用することで、非決定論的な操作を排除し安定性を高めました。
2. マルチクラスタートレーニングと障害耐性
単一クラスターへの依存から離れ、3 つの大陸にまたがる分散アーキテクチャを採用しました。これにより、ハードウェア故障時のリカバリー時間を最小化しています。
- 軽量な重み差分共有: 圧縮された重み差分（Delta）をクラウドストレージ経由で送信し、転送サイズを99% 以上削減。1T パラメータモデルの更新は1〜2 分以内で完了します。
- インプレース更新: ダウンタイムなしで推論エンジンを最新重みに同期し、進行中の軌道を維持します。
- 高度な障害耐性:
- 推論側故障: NVIDIA Dynamo を用い、状態を保持せず迅速に別のノードへスイングします。
- トレーナー側故障: 局所ディスクへの頻繁なチェックポイント作成とピア間複製により、ラン全体が縮小・再開するだけで自動的に復旧します。
3. 高品質なデータの収集
学習シグナルの質を高めるための包括的なデータ品質パイプラインを構築しました。
- 厳格な検証機能: 偽陽性（誤認識）および偽陰性（見逃し）を最小限に抑える QA パイプラインを実装。
- 難易度調整: モデルが挑戦することでしか解決できない高難度タスクのみを選定し、真の学習シグナルを生み出します。
- チート行為防止:
- ネットワーク制限（サンドボックス化）
- Git 履歴の削除
- エージェント評価経路との分離
- これらに違反した軌道には報酬 0が自動付与されます。
4. 長期タスク向けの自己圧縮（Self-compaction）
コンテキストウィンドウの制限を超え、長期的な非同期タスクを処理可能としました。
- 自己圧縮: コンテキストが不足すると、ワーキングステートをサマライズし、その要約から再開します。これによりロールアウト時間を最大 6 時間まで拡張できました。
- 交互長のペナルティ:
- 制限なしフェーズ: タスクの成功のみを目指します。
- 予算フェーズ: トーク数やコストが一定を超えるとペナルティを課し、凝縮された思考連鎖（Chain-of-Thought）を促します。
コーディングベンチマークの結果
エージェント型コーディングベンチマークにおける通率（Pass rate）の比較結果です。SWE-1.7 は特に SWE-Bench において顕著な性能向上を達成しています。
| ベンチマーク | SWE-1.7 | Kimi K2.7 | CodeGPT-5.5 | Opus 4.8 | Opus 4.7 | GLM-5.2 | Composer 2.5 | SWE-1.6 | FrontierCode 1.1 Main |
|---|---|---|---|---|---|---|---|---|---|
| SWE-Bench | 42.3% | 30.1% | 43.0% | 46.5% | 38.5% | 24.5% | 25.6% | 9.4% | - |
| Terminal-Bench 2.1 | 81.5% | 72.7% | 84.2% | 86.9% | 83.0% | 81.0% | 76.0% | 39.7% | - |
| SWE-Bench Multilingual | 77.8% | 73.5% | 76.8% | 84.4% | 80.5% | 74.5% | 71.6% | 58.3% | - |
注: Opus 4.8 は SWE-Bench Multilingual で最も高いスコア（84.4%）を記録していますが、SWE-1.7 はベースモデル（Kimik K2.7）との差が極めて大きく、RL トレーニングによる劇的な性能向上を示しています。
モデルの振る舞い変化
大規模 RL トレーニングにより、ベースモデル「Kimi K2.7 Code」と比較して以下のような特徴的な振る舞いが生じています。
- 強化されたアライメント: 大幅な整合性・信頼性の向上を遂げました。
- 凝縮された思考連鎖: 文あたりの平均単語数はほぼ半分となり、効率的な思考プロセスを実現しています。
- 徹底的なコードベース探索: 行動前に詳細なコード探索を行い、より多くのツール呼び出しとファイル読み込みを実行します。
** FrontierCode 1.1 Main にて確認された振る舞い傾向の継承**:
- 根本原因分析: バグの根拠となるエッジケースや敵対的入力を考慮した修正を行います。
- 設計理解: 具体的な設計決定事項を良好に把握します。
- 曖昧性の解決: 推測ではなく、試行錯誤（例：小さな Python スクリプト作成）でセマンティクスを確定させます。
メリットと改善点
- メリット: Due-diligence（慎重な調査）が増加し、包括的なエンドツーエンドソリューションを提供します。ベンチマーク性能が向上しました。
- 今後の課題: 追加の思考によりわずかなコスト増がありますが、タスク要求を超えた過剰な作業（例：不要なテストケース作成）は今後改善する予定です。
アドプション情報
SWE-1.7 は今日から以下の環境で利用可能です。
- プラットフォーム: Devin (Web, Desktop, CLI)
- プロバイダー: Cerebras 経由
- 推論速度: TPS 1000 超
まずはご自身でもお試しください！
参照文献：本文末尾のリンク集（References）を参照のこと。