
2026/08/13 0:01
Qwen3.8-2.4T
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
概要:
Qwen3.8 は、複雑なコーディング、研究、および自律エージェントタスクにおいて優れた性能を発揮する、強力かつオープンにリリースされた Qwen-Max クラスのモデルを導入します。このモデルは、Gated DeltaNet と Expert ミックスを組み合わせる高度なアーキテクチャに基づいて構築されており、全パラメータ数が 2.4T(有効活用パラメータ数 95B)、コンテキストウィンドウは最大 100 万トークンまで拡張されています。柔軟な思考制御、調整可能な推論深さ、および複雑なエージェントワークフロー用の履歴コンテキストの保持といった機能を備えています。リリースには、コーディングとエージェントタスクにおける詳細なベンチマーク検証が含まれ、最適なサンプリングパラメータおよびサービスエンジン構成(例:vLLM、SGLang)に関する具体的なガイドラインも提供されており、即時の生産環境での展開を可能にします。
本文
Qwen3.8-Max:コード生成と自律的エージェントの新たな基準
このリポジトリには、Hugging Face Transformers フォーマットでの事前学習済みモデルの重みと設定ファイルが含まれています。これらのアセットは、vLLM や SGLang、TokenSpeed などのフレームワークと互換性があります。
公式 Qwen Cloud が提供する Qwen API サービスを利用することで、インフラストラクチャの維持管理なしでマネージドかつスケーラブルな推論を実現できます。 特に、Qwen3.8-Max は以下の正式バージョンです:
- Qwen3.8-2.4T-A95B ベース
- 画像入力対応や思考プロセスの実行可能化などのより多くの機能を備えている
- デフォルト 1M トークンのコンテキスト長をサポートしている
- 公式内蔵ツールを装備している
詳細については、「Qwen3.8-Max Overview」 を参照してください。
Qwen3.8 の発表背景と概要
コミュニティにおける Qwen3.5 および Qwen3.6 シリーズの受容性を背景に、今日まで Qwen オープンモデルファミリーで最も能力の高い生成モデルである Qwen3.8が発表されました。
- 画期的なリリース: 初めてオープンリリースで Qwen-Max クラスのモデルをもたらします。
- 技術的基盤: Qwen3.5 のアーキテクチャを基盤としています。
- 適用分野: コーディング、専門業務、研究、長期ホライズンのエージェントタスクなどで大幅な成果を達成します。
ハイライト:強化機能
Qwen3.8 は以下の機能を備えています:
- コア能力: コーディング、専門業務、研究、長期ホライズンのエージェントタスク全体での包括的な向上。
- エージェント実行: より強力な自律的な計画立案と環境フィードバックへの効果的な処理により、エンドツーエンドのタスク完了の信頼性が向上します。
- ダウンストリーム互換性: 人気のあるフレームワークと開発ツールへの広範なサポートにより、既存のスタックへの統合を容易にします。
- フレキシブルな思考制御:
を用いて推論の深さを微調整可能。reasoning_effort
で履歴メッセージからの推論コンテキストを保持可能。preserve_thinking
詳細については、当社のブログ投稿「Qwen3.8-Max」を参照してください。
モデル概要
| 項目 | 内容 |
|---|---|
| タイプ | 因果的言語モデル (Causal Language Model) |
| 学習段階 | 事前学習 & 事後学習 |
| パラメータ数 | 全計 2.4T、アクティブ 95B |
| 隠れ次元 | 8192 |
| トークン埋め込み | 248,320 (パディング済み) |
| レイヤー数 | 92 |
| 隠れ配置 | |
詳細仕様
- Gated DeltaNet:
- リニアアテンションヘッド数: V 用 128、QK 用 16
- ヘッド次元: 128
- Gated Attention:
- アテンションヘッド数: Q 用 64、KV 用 4
- ヘッド次元: 256
- ロタリー位置埋め込み次元: 64
- Mixture of Experts (MoE):
- エキスパート数: 512
- アクティブなエキスパート数: ラウティング用 10 + シェアード用 1
- エキスパート中間次元: 2048
- LM Output: 248,320 (パディング済み)
- MTP (Multi-Token Prediction): 複数ステップで学習済み
- コンテキスト長:
- 本来:262,144 トークン
- 最大:1,010,000 トークンまで拡張可能
ベンチマーク結果
| 評価基準 | Opus | Fable | GPT-5.6 Sol | Qwen3.7-Max | Qwen3.8-Max |
|---|---|---|---|---|---|
| コーディングエージェント | |||||
| Terminal Bench 2.1 | 84.6 / 84.6 / 88.8 / 74.5 / | 86.6 | |||
| SWE-bench Pro | 69.2 / 80.0 / 64.6 / 60.6 / | 67.7 | |||
| DeepSWE 1.1 | 59.0 / 70.0 / 73.0 / 21.6 / | 56.6 | |||
| NL2Repo-Bench | 69.4 / -- / -- / 47.2 / | 55.9 | |||
| FrontierSWE | 70.0 / 88.8 / -- / 40.7 / | 73.5 | |||
| MLS-Bench-Lite | 42.8 / 49.9 / 46.2 / 31.7 / | 41.0 | |||
| PaperBench | 80.3 / 88.8 / 90.5 / 64.8 / | 93.0 | |||
| AndroidBench | 69.8 / 84.5 / 74.0 / 56.5 / | 75.1 | |||
| QwenSWEBench | 84.0 / 86.3 / 73.5 / 63.4 / | 80.7 | |||
| QwenQoderBench | 62.7 / 63.1 / 53.8 / 36.8 / | 58.4 | |||
| QwenReactBench | 1694 / 1770 / 1564 / 1538 / | 1724 | |||
| QwenSVGBench | 1648 / 1690 / 1758 / 1499 / | 1713 | |||
| 一般エージェント | |||||
| CoWorkBench | 72.3 / 75.9 / 71.5 / 64.6 / | 74.8 | |||
| WorkSpaceBench | 66.8 / 68.7 / 65.6 / 61.4 / | 67.7 | |||
| JobBench | 48.4 / 57.4 / 45.4 / 31.3 / | 53.4 | |||
| SkillsBench | 65.1 / 70.9 / 73.5 / 61.2 / | 70.2 | |||
| Agents' Last Exam | 27.0 / 45.1 / -- / 30.6 / | 27.0 / 52.4 | |||
| Automation-Bench (Pass@1) | 27.2 / 29.1 / 29.7 / 14.2 / | 27.3 | |||
| Toolathlon Verified (Pass@1) | 76.2 / 77.9 / 74.9 / 49.7 / | 72.5 | |||
| WideSearch | 72.9 / 81.2 / -- / 75.2 / | 81.9 | |||
| HLE w/ tools | 57.9 / 64.5 / 58.0 / 53.5 / | 56.2 | |||
| 一般能力 | |||||
| GPQA Diamond | 92.0 / 92.6 / 94.1 / 92.4 / | 92.6 | |||
| HLE | 45.7 / 53.3 / 47.2 / 41.4 / | 43.6 | |||
| IFBench | 62.2 / 63.5 / 72.7 / 79.1 / | 82.8 | |||
| $OneMillion-Bench (expert) | 41.8 / 55.9 / 53.8 / 44.4 / | 52.5 | |||
| HealthBench | 52.4 / -- / 55.3 / 54.5 / | 60.2 | |||
| PLawBench | 69.6 / 70.2 / 72.3 / 58.9 / | 73.2 | |||
| PRBench-Legal | 52.7 / 57.6 / 57.6 / 48.5 / | 57.6 | |||
| PRBench-Finance | 51.9 / 55.8 / 55.5 / 46.8 / | 58.3 | |||
| MRCR v2 256K (8-needle) | 83.2 / -- / 93.8 / 86.7 / | 92.9 | |||
| LongBench v2 | 69.1 / -- / 67.1 / 65.3 / | 66.3 |
※ 注記:
- Fable 5 の結果にはフォールバックが含まれる可能性があります。
- Terminal Bench 2.1 は Claude Code (avg@10) を使用して評価され、5 時間のタイムアウトおよび
が設定されています。max_tokens=131,072- 「--」は公式の MEAN@5 結果が該当時点(2026 年 8 月 3 日)までに利用できなかったことを示します。
クイックスタート
統合の簡素化のために、API を通じて Qwen3.8 を使用することをお勧めします。
提供 (Serving)
推論効率およびスループットはフレームワークによって大きく異なります。最適なパフォーマンスと互換性を確保するために最新バージョンのフレームワークの使用をお勧めします。 プロダクションワークロードや高スループットシナリオには、専用サービングエンジンである SGLang、vLLM、TokenSpeed の使用が推奨されます。
Qwen3.8 は以下の人気の推論フレームワークでデプロイ可能です:
- SGLang: Qwen3.8 Cookbook (参考リンク)
- vLLM: Qwen3.8 Recipe (参考リンク)
- TokenSpeed: Qwen3.8 Recipe (参考リンク)
API 利用法
重要な制限事項
重要: Qwen3.8-2.4T-A95B はテキストのみモデルであり、以下の点にご注意ください:
- すべてのインタラクションに思考モードが必要です。
- マルチモーダル入力はサポートされていません。
- 思考プロセスを無効化することはできません。
- すべての応答は、最終出力の前に
のように囲まれた推論で自動的に始まります。</think>...</think>
サンプリングパラメータ
生成のための以下のサンプリングパラメータセットを使用することを推奨します:
temperature=1.0, top_p=0.95, top_k=20, min_p=0.0, presence_penalty=0.0, repetition_penalty=1.0
注意:サンプリングパラメータのサポートは推論フレームワークによって異なります。
推論制御 (reasoning_effort
)
reasoning_effortQwen3.8 は公式に
reasoning_effort をサポートしており、これを使用して推論の深さを調整しコストを制御できます:
- xhigh (デフォルト): 徹底的な分析が必要な複雑なタスク用
- medium: 精度と速度のバランス
- low: 速度とコストの最適化向け
また、すべてのワークロードで
preserve_thinking はデフォルトで有効になっています。
Chat Completions API での実装例
Chat Completions API は、多くの推論フレームワークおよび Qwen Cloud とともに使用できます。開始前に、OpenAI Python SDK がインストールされており、API キーと API ベース URL が設定されていることを確認してください(例:
pip install -U openai)。
その後、以下の環境変数を設定します:
export OPENAI_BASE_URL='your-base-url' export OPENAI_API_KEY='your-api-key'
Python コード例:
from openai import OpenAI # 環境変数で構成されるクライアントを作成 client = OpenAI() messages = [{"role": "user", "content": "Write a Python function to merge two sorted linked lists."}] completion = client.chat.completions.create( model="Qwen/Qwen3.8-2.4T-A95B", messages=messages, extra_body={ "chat_template_kwargs": { "enable_thinking": True, # デフォルト有効; 無効にしないべき "preserve_thinking": True, # デフォルト有効 }, }, reasoning_effort="xhigh", # デフォルト xhigh; サポートレベルは xhigh, medium, low stream=True, stream_options={"include_usage": True}, ) reasoning_content = "" answer_content = "" is_answering = False print("\n" + "=" * 20 + "Reasoning" + "=" * 20 + "\n") for chunk in completion: if not chunk.choices: print("\nUsage:") print(chunk.usage) continue delta = chunk.choices[0].delta # 推論コンテンツの出力処理 if hasattr(delta, "reasoning_content") and delta.reasoning_content is not None: if not is_answering: print(delta.reasoning_content, end="", flush=True) reasoning_content += delta.reasoning_content # 回答コンテンツの出力処理 if hasattr(delta, "content") and delta.content: if not is_answering: print("\n" + "=" * 20 + "Answer" + "=" * 20 + "\n") is_answering = True print(delta.content, end="", flush=True) answer_content += delta.content # Qwen Cloud の API を使用する場合、以下のように設定してください: # extra_body={"enable_thinking": True, "preserve_thinking": True}
最佳の手法 (Best Practices)
最適なパフォーマンスを実現するために以下の設定をお勧めします。
サンプリングパラメータの詳細調整
推奨セット:
temperature=1.0, top_p=0.95, top_k=20, min_p=0.0, presence_penalty=0.0, repetition_penalty=1.0
- Endless Repetition の削減: サポートされているフレームワークでは、
パラメータを 0 から 2までの範囲で調整することで可能です。presence_penalty- ただし、高い値を使用すると、言語の混在やモデルパフォーマンスのわずかな低下につながる可能性があります。
適切な出力長さの設定
エージェントタスクのパフォーマンスを最適化するために、詳細かつ包括な応答を生成できるように十分な出力長を割り当てることをお勧めします。
フレームワークが内部推論と最終出力に別々のトークン制限をサポートする場合、以下の構成(1M コンテキスト長内)を推奨します:
- 推論コンテンツ: 最大出力長を 262,144 トークン に設定
- 最終レスポンス: 最大出力長を 131,072 トークン に設定
これらの設定は、複雑な推論に必要な容量を提供しつつ、高品質な最終成果物のための十分なスペースを確保します。
引用
当社の仕事が有益であると感じる場合は、引用をご自由にしてください。
@misc{qwen38, title = {{Qwen3.8-Max}: A New Bar for Coding and Cowork}, url = {https://qwen.ai/blog?id=qwen3.8}, author = {{Qwen Team}}, month = {August}, year = {2026} }