
2026/07/16 23:46
Kimi K3:オープン・フロンティア・インテリジェンス
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
Kimi K3 は、ネイティブビジョン機能と 100 万トークンのコンテキストウィンドウを備えた、開かれた 2.8T パラメータモデルであり、同クラスにおいて初めてこの規模に達したものです。Kimide Delta Attention (KDA)、Attention Residuals (AttnRes)、Stable LatentMoE(896 のエキスパートのうち 16 を有効化)を活用し、Kimi K2 に比べて約 2.5 倍のスケーリング効率向上を実現しています。API、モバイルアプリ(iOS、Android、HarmonyOS)、デスクトップアプリ(Windows/Mac v3.1.0 以降)、ターミナル(Kimi Code)、および Kimi Work プラットフォーム経由で現在利用可能です。完全なモデル重みは 2026 年 7 月 27 日にリリース予定です。
発売時はデフォルトで"max"の思考努力で動作し、将来のアップデートで低い effort と高い effort のモードが個別に導入される予定です。全体的一般ベンチマークでは Claude Fable 5 や GPT 5.6 Sol などのプロプライエタリモデルに劣りますが、「max」推論(temperature = 1.0, top-p = 1.0)を使用する際は、評価スイート内でテストされた他のすべてのモデルで一貫して高スコアを獲得しています。NVIDIA H200 上での Kernel Optimization テストでは、Claude Fable 5 と競合的な性能を誇り、Opus 4.8、GPT 5.6 Sol、GPT 5.5 を大幅に上回っています。また、NanoTriton を成功裏に構築しており、これは Triton や torch.compile に匹敵するかそれ以上のパフォーマンスを発揮しながら、エンドツーエンドの nanoGPT 訓練を継続可能なカスタム GPU コンパイラです。
ドメイン固有のベンチマークでは Kimi K3 が内部指標で優位を示しています:DeepSWE(67.5)、Program Bench(77.8)、Terminal Bench 2.1(88.3)。顕著なケーススタディには、48 時間以内にナノモデルを供給するチップの自律的デザイン(シミュレーションにおいて 100 MHz のタイミングクロージャー達成および>8,700 トークン/秒のデコードスループット達成)、ならびに 20 以上の論文を相互検証し Python コード 3,000 行以上を生成することで複雑な天体物理学研究タスクを数週間から約 2 時間へと短縮する実績が含まれます。
Kimi Work には、永続的な視覚インタラクションのためのウィジェットおよびダッシュボード、そしてネイティブ動画編集機能を搭載した新機能が追加されました。モデルは API 経由で利用可能で、入力/出力それぞれに対し MToken あたり 0.30 米ドル・3.00 米ドル・15.00 米ドルの料金体系を適用しています。制限事項としては、思考履歴への感受性(特定のハネス互換性を必要とする例:Kimi Code など)、および曖昧なタスクに対して過度の能動性を示す傾向があり、これらには明示的な振る舞い制約が必要です。
本文
Kimi K3 の正式発表:2800 億パラメータを誇る次世代「3T クラスモデル」
本日、当社の最も強力なモデルとして開発された Kimi K3 が正式に発表されました。
キー・スペックとアーキテクチャ
- 規模: 2800 億パラメータ。
- コンテキストウィンドウ: ネイティブな画像認識能力を備え、**100 万分(100 万トークン)**に対応。
- 位置付け: 長時間コーディング、高度な知識処理、推論などの最先端領域において、世界初の開示された「3T クラスモデル」。
ご利用開始について
本日より以下のプラットフォームにてご利用いただけます。
- Kimi.com, Kimi Work, Kimi Code, Kimi API
- リリース当初はデフォルトで**「最大思考努力(max thinking effort)」**が適用されます。
- 今後のアップデートでは、「低努力モード」と「高努力モード」も順次導入予定。
- 完全なモデル重み: 2026 年 7 月 27 日までにリリースされる予定。
- 詳細な技術情報(アーキテクチャ、トレーニング、評価)は、Kimi K3 テクニカルレポートと同時に公開。
「オープンソース」の 3T クラスモデルとしての革新
アーキテクチャ革新:KDA と AttnRes
Kimi K3 は、シーケンスの長さやモデルの深さを超えて情報を効率的に流通させるための 2 つの革新を採用しています。
- Kimi Delta Attention (KDA): アテンションのスケーリングのための効率的な基盤を提供。
- Attention Residuals (AttnRes): 情報を深さ方向に均等に蓄積するのではなく、選択的にレプレゼンテーションをリトリビュール。
これらが合体することで、1 兆パラメータ以上の規模をスケーリングするためのアーキテクチャの骨格が形成されます。
Stable LatentMoE の採用
- スパシティの拡張: Mixture of Experts(MoE)を活用し、896 人のエキスパートのうち 16 人を有効活用する仕組みを構築。
- 効率的なトレーニング: 構造変化とデータレシピの洗練により、前モデル(Kimi K2)に比べて全体的なスケーリング効率を約 2.5 倍向上。計算資源をインテリジェンスへより効率的に変換。
ハードウェア互換性と推論効率
- クァンタイズド認識トレーニング: SFT ステージ以降、MXFP4 ウェイトと MXFP8 アクティベーションを使用することで幅広いハードウェア互換性を確保。
- フルバランスエクスパート並列トレーニング: 静的形状を持ち、ホスト同期を行わない手法を採用し、スループットの低下を防ぐ。
- 推奨構成: 推論効率を最大化するため、展開には64 ズ以上のアクセラレーターを備えたスーパーノードが推奨されます。
- vLLM コミュニティへの寄付: KDA は従来のプレフィックスキャッシュに新たな課題をもたらすため、対応する実装を vLLM コミュニティへ寄付し、モデルと同時にリリースする予定。
卓越した能力:コーディング、創作、研究
🖥️ コーディングと GPU コンパイラ開発
長期的なエンジニアリングセッションの自律遂行や、膨大なリポジトリのナビゲーションが可能です。
- カーネル最適化:
- NVIDIA H200 や GPGPU 環境において 24 時間の猶予を与えてベンチマークを執行。
- AttnRes、KDA、MLA カーネルなど 4 つのタスクのプロファイリング、再記述に成功。
- 結果: Fable 5(フォールバックあり)と競り合い、Opus 4.8、GPT 5.6 Sol、GPT 5.5 のいずれよりも大幅に優れた結果を記録しました。
- GPU コンパイラ開発「MiniTriton」:
- MLIR 上独自のタイルレベルの IR レイヤー、最適化パス、PTX コード生成パイプラインをゼロから構築。
- Roofline ベンチマークにおいて Triton や
と同等以上、特定のワークロードでは凌駕するパフォーマンスを発揮。torch.compile - NanoGPT のエンドツーエンドなトレーニングにおいて、安定した収束と損失曲線の再現を実現。
- DSL フロントエンドから PTX 生成まで「一貫したエンドツーエンドコンパイラ」であることを実証。
🎮 ゲーム開発およびデジタル創作
- 3D オープンワールド: Three.js WebGPU を用い、手続き的に生成された広大なオープンワールド(森、ログキャビン村、雪に覆われた山々)を開発。カウボーイと馬のモデルなど外部アセットを統合。
- 動画編集・モーションデザイン:
- 独自のマルチモーダルアーキテクチャにより、テキスト、画像、動画を同一モデル内で理解可能。
- プロモーションビデオ作成: 56 つのソースクリップから、カット選択、ビート同期、音声処理までを自律的に編集し、高密度な短動画生成を実現(通常 1〜2 日の作業を短縮)。
🔬 研究のためのコーディング
- 科学文献とコードの架橋: 複雑な計算科学研究ワークフローの実装・検証・分析を自律的に行う。
- 事例: 経験豊富な研究者が要する 1〜2 週間かかる作業を、約 2 時間で完了(I–Love–Q の普遍関係の再現など)。
- 対話型可視化による研究:
- 42 年間の ASIC 業界研究インタラクティブウェブサイト作成。証拠をカスタムチャートや対話型視覚物語に変換(1.1 万ページの報告書網羅)。
- フュージョン業界研究への支援。
- GWTC-5 重力波解析(391 イベント分析、7 つの科学的ビジュアライゼーション生成)。
📚 知識業務と対話型可視化
- エージェント型知識業務: Kimi K3 (max) は公的なベンチマークに加え、内部評価において一貫して改善を示す。
- Kimi Work の新機能:
- 「ウィジェット」: チャット内で直接対話型コンポーネントを生成可能。
- 「ダッシュボード」: 関心のあるウィジェットを一元的に整理し、永続的でパーソナライズされたビューを提供。
リスト:全ベンチマーク結果一覧表
※以下の全ての Kimi K3 結果は、思考努力を
に設定し、温度 = 1.0 および top-p = 1.0 の条件下で取得されました。max
| カテゴリ | ベンチマーク名 | Kimi K3 (max) | Claude Fable 5 (fallback) | GPT 5.6 Sol (max) | Claude Opus 4.8 (max) | GPT 5.5 (xhigh) |
|---|---|---|---|---|---|---|
| コーディング | DeepSWE | 67.5 | 70.0 | 73.0 | 59.0 | 67.0 |
| Program Bench | 77.8 | 76.8 | 77.6 | 71.9 | 70.8 | |
| Terminal Bench 2.1 | 88.3 | 84.6 | 88.8 | 84.6 | 83.4 | |
| Frontier SWE | 81.2 | 86.6 | 71.3 | 66.7 | 64.9 | |
| SWE Marathon | 42.0 | 35.0 | 39.0 | 40.0 | 14.0 | |
| PostTrain Bench | 36.6 | 41.4 | 34.6 | 34.1 | 28.4 | |
| MLS Bench | 48.3 | 49.9 | 46.2 | 42.8 | 35.5 | |
| Kimi Code Bench 2.0 (Internal) | 72.9 | 76.9 | 64.8 | 71.7 | 69.0 | |
| エージェント型 | GDPval-AA v2 (Elo) | 1668.0 | 1760.0 | 1748.0 | 1600.0 | 1494.0 |
| BrowseComp | 91.2 | 88.0 | 90.4 | 84.3 | 84.4 | |
| DeepSearchQA (f1) | 95.0 | 94.2 | — | 93.1 | — | |
| Toolathlon-Verified | 73.2 | 77.9 | 74.9 | 76.2 | 73.5 | |
| MCP Atlas | 84.2 | 84.7 | 83.6 | 83.6 | 82.8 | |
| Automation Bench | 30.8 | 29.1 | 29.7 | 27.2 | 22.7 | |
| Job Bench | 52.9 | 57.4 | 46.5 | 48.4 | 38.3 | |
| AA-Briefcase (Elo) | 1548.0 | 1583.0 | 1495.0 | 1354.0 | 1158.0 | |
| APEX-Agents | 37.6 | 43.3 | 39.9 | 39.4 | 38.5 | |
| Office QA Pro | 63.3 | 69.9* | 63.2* | 63.9* | 60.9* | |
| SpreadsheetBench 2 | 34.8 | 34.7* | 32.4* | 31.6* | 29.1* | |
| DECK-Bench (Internal) | 73.5 | 73.0 | 74.7 | 66.9 | 68.2 | |
| 推論と知識 | GPQA-Diamond | 93.5 | 92.6 | 94.1 | 91.0 | 93.5 |
| HLE-Full | 43.5 | 53.3 | 44.5 | 49.8* | 41.4* | |
| HLE-Full w/ tools | 56.0 | 63.0 | 58.0 | 57.9* | 52.2* | |
| 視覚 | MMMU-Pro | 81.6 | 81.2 | 83.0 | 78.9 | 81.2 |
| MMMU-Pro w/ python | 83.4 | 86.5 | 84.6 | 82.7 | 83.2 | |
| CharXiv (RQ) | 84.8 | 88.9 | 84.6 | 80.5 | 84.1 | |
| CharXiv (RQ) w/ python | 91.3 | 93.5 | 89.1 | 89.9 | 89.0 | |
| MathVision | 94.3 | 94.8 | 95.8 | 86.7 | 92.2 | |
| MathVision w/ python | 97.8 | 98.6 | 97.8 | 97.1 | 96.8 | |
| BabyVision w/ python | 85.7 | 90.5 | 88.9 | 81.2 | 83.6 | |
| ZeroBench_main (pass@5) | 23.0 | 23.0 | 17.0 | 17.0 | 22.0 | |
| ZeroBench_main w/ python (pass@5) | 41.0 | 46.0 | 35.0 | 34.0 | 41.0 | |
| WorldVQA ForceAnswer | 51.0 | 56.7 | 41.8 | 39.1 | 38.5 | |
| OmniDocBench | 91.1 | 89.8 | 85.8 | 87.9 | 89.4 | |
| PerceptionBench | 58.5 | 57.2 | 59.7 | 47.2 | 55.8 |
※数値の詳細な出典やモデルごとのハネス(エージェント環境)の事情については、後述の注釈をご参照ください。
ベンチマーク結果に関する補足説明
コーディングベンチマーク
- DeepSWE: Kimi K3 は
ハネスで評価。GLM-5.2 のスコアはリリースブログより、他は公式リーダーボードより取得。KimiCode - Terminal-Bench 2.1: Kimi K3 は
ハネス。他モデルは最高スコアを報告(例:GPT 5.6 Sol は Codex)。KimiCode - Program Bench: Kimi K3 は
ハネス。他モデルは公式ベンチマークページから取得。KimiCode - SWE Marathon / FrontierSWE: Kimi K3 は
、GPT 5.6 Sol はKimiCode
など環境が異なる場合あり。優位性スコアは公式スクリプトで再計算(2026 年 7 月 16 日時点)。Codex - PostTrain Bench: Kimi K3 は最大思考努力の公式 Harbor インプリメンテーションを使用。
- MLS Bench Lite / KCB 2.0: モデルごとの環境(KimiCode, Claude Code, Codex)が異なるが、全て最大思考努力で評価。
生産性とエージェント型ベンチマーク
- OfficeQA Pro / SpreadsheetBench 2: Kimi K3 は
ハネス。GPT 5.6 Sol はClaude Code
ハネス。Codex - MCP Atlas: 全モデルは 500 タスク・100 ターン制限、裁判官は Gemini 3.1 Pro。
- AutomationBench: 公式 GitHub セッティングに従い 600 タスク評価。
- BrowseComp: Kimi K3 は 1M トークンかつコンテキスト管理なしで 90.4 を達成(他モデルは 300K トークン圧縮戦略など)。
- GDPval-AA / AA-Briefcase: artificialanalysis.ai からの引用。
マルチモーダルベンチマーク
- PerceptionBench: 原子レベルの視覚認識能力に焦点を当てた社内ベンチマーク。
- ZeroBench 除き: 全ては三次の実行で平均化。MMMU-Pro は公式プロトコル(画像をテキスト入力に付加)に従う。
リスト:制限事項と注意点
Kimi K3 は極めて競争力のあるモデルですが、以下の点に留意が必要です。
- 思考履歴への感受性:
- 「思考履歴保存モード」でトレーニングされています。
- エージェントハネスが過去の思考内容を返せなかったり、セッションを別モデルに切り替えると、生成品質が著しく不安定になる可能性があります。
- 推奨:Kimi Code など互換性が検証されたハネスを使用し、セッション途中で K3 に無理に切り替えることは避けてください。
- 過剰な能動的性:
- 長期的かつ挑戦的なタスクに重点を置いているため、ユーザーの意図の曖昧さや小さな問題に対し、予期せざる意思決定を行うことがあります。
- 適用前にシステムプロンプトまたは
において、K3 に明示的な振る舞い制約を課してください。AGENTS.md
全体としては、主要なプロプライエタリーモデル(Claude Fable 5 や GPT 5.6 Sol など)に及ばない点もあるため、ユーザー体験面での明確なギャップが存在する状況です。ただし、独自評価スイートにおいては**「先端的なレベルのパフォーマンス」**を発揮しており、特定のカテゴリで他モデルを一貫して上回る結果を示しています。