
2026/07/27 15:18
HuggingFace の Kimi-K3
RSS: https://news.ycombinator.com/rss
要約▶
日本語翻訳:
Kimi K3 は、世界初のオープンウェイト型、ネイティブマルチモーダルエージェントモデルであり、合計 2.8 トリリオンのパラメータと大規模な 100 万トークンコンテキストウィンドウを備えることで画期的な成果を示しています。このモデルは長期間にわたるタスクを設計の目的としており、Stable LatentMoE アーキテクチャ内部における Kimi Delta Attention (KDA) および Attention Residuals (AttnRes) を活用することで、Kimi K2 に対して約 2.5 倍のスケーリング効率を実現しています。この高度な構成には、93 レイヤー、MXFP4 クアンタ化、MoonViT-V2 ビジョンエンコーダーが組み込まれており、複雑なコーディング、深い研究、自律エージェントワークフローの処理に優れた性能を発揮します。2026 年 7 月時点での独立したベンチマーク結果は、FrontierSWE(81.2)や DeepSearchQA(95.0)のような高度なタスクにおいてそのリーダーシップを確立しており、一方で Creative Problem Solving(CritPt)においては Claude Fable 5 に後れをとっています。プロプライエタリモデルとは異なり、Kimi K3 のオープンウェイト性と特定のライセンスの下では、研究者がチップデザインから自律的なゲーム開発に至るまで多岐にわたる分野で自由に展開しイノベーションを推進できることを可能にしています。ユーザーはこれらの機能を、vLLM、SGLang、TokenSpeed といったインференシングエンジンを通じて API またはインフェレンシングエンジンを用いてアクセスでき、特定のニーズに合わせて設定可能な推論努力(低/高/マックス)を利用しつつ、有効化された思考トレイルにより完全な透明性を維持できます。このリリースは、排他的な企業ライセンスへの依存を排除した上級 AI エージェントの構築に役立つアクセス可能で高機能なツールを提供することで、業界全体に変革をもたらします。
本文
Kimi K3:世界初のオープンソース化された 2.8T クラスネイティブ・マルチモーダル・エージェントモデル
1. モデルの概要と主な特徴
Kimi K3 は、2.8 兆パラメータを備えた当社史上最高性能のモデルであり、世界初としてオープンソース化されています。従来の手法に加え、Kimi Delta Attention (KDA) と Attention Residuals (AttnRes) を採用し、長期的なコーディングや知識業務、推論といった最先端のインテリジェンスを実現するよう設計されています。
主要な特徴
- 革新的なアーキテクチャ
- KDA と AttnRes:Stable LatentMoE フレームワークにより MoE のスパース性を向上(896 エクスパート中 16 活性化)。
- 効率性の向上:Kimi K2 に比べてスケーリング効率が約 2.5 倍改善。
- 長期的コーディング支援
- 人間介入を最小化し、長期間にわたるエンジニアリングセッションを維持。
- 巨大なリポジトリのナビゲーションやターミナルツールの調整が可能。
- GPU カーネル最適化、コンパイラ開発、ゲーム開発(ビジョン・イン・ザ・ループ)、CAD、チップ設計などに対応。
- エージェント型知識業務
- エンドツーエンドの知識業務を推進。
- インタラクティブな可視化、ダッシュボードによる深い研究、モーションデザイン、ビデオ編集を生産。
- ネイティブ・マルチモーダル性と超長コンテキスト
- 同一モデル内でテキスト、画像、ビデオを理解。
- 100 万トークンのコンテキストウィンドウを内蔵。
- オープンな最先端重み
- 「Kimi K3 ライセンス」の下で完全なモデル重みを公開(研究、デプロイメント、イノベーションの促進)。
2. モデル詳細仕様
| 項目 | 数値/内容 |
|---|---|
| 総パラメータ数 | 2.8T (2.8 兆) |
| 活性化パラメータ数 | 104B |
| 層の数 | 93 |
| アテンション機構 | KDA & ゲート付き MLA |
| 固有の層の数 | 1 |
| アテンション層構成 | 69 KDA + 24 ゲート付き MLA |
| アテンション隠れ次元 | 7168 |
| アテンションヘッドの数 | 96 |
| 潜在 MoE 次元 | 3584 |
| 各エキスパートの MoE 隠れ次元 | 3072 |
| エキスパートの数 | 896 (各トークンあたり選択数:16) |
| 共有エキスパートの数 | 2 |
| 語彙サイズ | 160K |
| コンテキスト長さ | 1,048,576 (100 万トークン) |
| 活性化関数 | SiTU-GLU |
| ビジョンエンコーダ | MoonViT-V2 (401M パラメータ) |
| モーダルリティ | テキスト、画像、ビデオ |
| 量子化対応 | MXFP4 重み / MXFP8 アクティベーション(量子化感知トレーニング) |
3. 評価結果:ベンチマーク比較
Kimi K3 は推論・知識・コーディング・エージェント型・ビジョンの各分野において、主要な競合他社モデル(Claude, GPT, GLM など)と比較して卓越したパフォーマンスを発揮しています。
ベンチマークスコアサマリー (Top 5 指標)
- 推論と知識: GPQA Diamond で 93.5 (GPT-5.6 Sol の 94.1 に次ぐ高水準)。
- コーディング: Terminal-Bench 2.1 で 88.3、ProgramBench で 77.8。
- エージェント型: BrowseComp で 91.2、DeepSearchQA(F1) で 95.0。
- ビジョン: OmniDocBench で 91.1、MathVision で 97.8(ツール拡張あり)。
詳細ベンチマーク表
| ベンチマークカテゴリ | 主要タスク | Kimi K3(max) | 他社代表モデル (最大値) | 備考 |
|---|---|---|---|---|
| 推論と知識 | GPQA Diamond | 93.5 | GPT-5.6 Sol: 94.1 | 単一ステップタスクで高スコア維持 |
| CritPt | 23.4 | GLM-5.2: 20.9 | 専門知識问答 | |
| AA-LCR | 74.7 | GPT-5.5(xhigh): 74.3 | 論理的推論能力 | |
| HLE-Full | 56.0 | Claude Opus 4.8: 57.9 | ツール拡張あり(最高スコア) | |
| コーディング | DeepSWE | 67.5 | GPT-5.6 Sol: 73.0 | Kimi Code ハネス評価 |
| Terminal-Bench 2.1 | 88.3 | GPT-5.6 Sol: 88.8 | ターミナル操作能力 | |
| ProgramBench | 77.8 | GPT-5.6 Sol: 77.6 | コード生成精度 | |
| SWE-Marathon | 42.0 | Claude Fable 5: 35.0 | 長期間にわたるタスク解決 | |
| FrontierSWE | 81.2 | Claude Opus 4.8: 86.6 | 複雑なソフトウェア工学問題 | |
| エージェント型 | BrowseComp | 91.2 | GPT-5.6 Sol: 90.4 | ブラウザ操作能力 |
| DeepSearchQA (F1) | 95.0 | Claude Fable 5: 94.2 | 検索および情報抽出 | |
| MCPMark-Verified | 94.5 | GPT-5.6 Sol: 92.9 | マルチコンポーネント連携 | |
| OSWorld-Verified | 84.8 | Claude Fable 5: 85.0 | オペレーティングシステム操作 | |
| Harvey Lab-AA | 94.6 | GPT-5.6 Sol: 87.2 | 高度な推論タスク | |
| ビジョン | OmniDocBench | 91.1 | GPT-5.5(xhigh): 89.4 | ドキュメント理解能力 |
| Video-MME (w. sub) | 90.0 | GPT-5.6 Sol: 89.5 | ビデオ分析能力 | |
| MathVision | 97.8 | GPT-5.6 Sol: 97.8 | 数式と画像の統合理解 | |
| MMMU-Pro | 83.4 | GPT-5.6 Sol: 84.6 | 多模态大学入学試験 |
※注釈: すべての結果は推論努力
、temperature 1.0 で得られています。一部タスク(HLE-Full など)ではツール拡張の有無によるスコアが併記されています。max
4. ネイティブ MXFP4 量子化
Kimi K3 は、SFT ステージから MXFP4 重みと MXFP8 アクティベーション を使用しています。これにより、広いハードウェア互換性を確保しつつ、**量子化感知トレーニング(Quantization-Aware Training)**を適用したことで精度を維持しています。
5. デプロイメント方法
Kimi K3 にアクセスするには、platform.kimi.ai で
kimi-k3 を選択して API に接続します。OpenAI や Anthropic と互換性のある API も提供されています。
推奨される推論エンジン:
- vLLM(レシピ集参照)
- SGLang(クックブック参照)
- TokenSpeed(レシピ集参照)
6. モデルの使用法とコーディングエージェント
Kimi K3 は常に思考(リフレクション)が有効であり、
reasoning_content を返します。思考努力は reasoning_effort パラメータで制御可能(low, high, max)。
保持された思考履歴モードのサンプルコード
マルチターン会話やツールコールでは、API から返される完全なメッセージ(
content, reasoning_content, tool_calls)をそのまま入力する必要があります。
import openai def chat_with_preserved_thinking(client: openai.OpenAI, model_name: str): messages = [ { "role": "user", "content": "Tell me three random numbers." }, { "role": "assistant", "reasoning_content": "I'll start by listing five numbers: 473, 921, 235, 215, 222, and I'll tell you the first three.", "content": "473, 921, 235" }, { "role": "user", "content": "What are the other two numbers you have in mind?" } ] response = client.chat.completions.create( model=model_name, messages=messages, stream=False, max_tokens=4096, reasoning_effort="max", # 思考努力レベルを最大に設定 ) # 思考プロセスを確認 print(f"Thinking process: {response.choices[0].message.reasoning}") return response.choices[0].message.content
コーディングエージェントフレームワーク
Kimi K3 は Kimi Code CLI と組み合わせることで、エージェントとして最も効果的に動作します。
- ターミナルで
を実行してください。kimi code
コマンドを使用して Kimi K3を選択して利用できます。/model
さらに詳細なガイド(ビジョン入力、構造化出力、ツール選択など)については、Kimi K3 クイックスタート および 思考努力のドキュメント を参照してください。
7. ライセンスとアクセス情報
- ライセンス: コードリポジトリおよびモデル重みは、Kimi K3 ライセンスの下でリリースされています。
- ダウンロード数: 前月 2,850
- オープンソース化: 最先端のインテリジェンスを研究・デプロイメント目的で完全開放。
8. お問い合わせ
詳細な質問やサポートが必要な場合は、以下までご連絡ください。
- Email: support@moonshot.ai
- GitHub リポジトリ: moonshotai/Kimi-K3
- モデルツリー:moonshotai/Kimi-K3
- 利用中のスペース数:5 コレクション