Meta、次世代ローカルエージェント向けモデル「Muse Glimmer」を Apache 2.0 ライセンスでオープンソース化

Meta Superintelligence Labs が本日、次世代モデルである Muse Glimmer を発表し、その重みを Apache 2.0 ライセンスの下でオープンソース化いたしました。

モデル概要と特徴

• 基本情報
  • パラメータ数：300 億パラメータ。
  • 特徴：極めてコンパクトであり、単一の消費者向け GPU を搭載した Mac や PC でも動作可能。
  • ユースケース：ローカルエージェント、関数呼び出し、ローカルコーディング、LLM-as-a-judge（評価者）など、幅広い用途に対応。
• パフォーマンス
  • 同カテゴリの他の大手モデルと比較し、主要なエージェンティック（自律的）用途およびベンチマークで優れた性能を発揮します。
• ローカル実行のメリット
  • クラウドインフラやネットワーク接続への依存を排除。
  • インターネット接続の有無に関わらず、いつでもどこでも AI を活用可能に。
  • 適切にトレーニングされた小規模モデルが最先端レベルのパフォーマンスを実現するオープンソースコミュニティの成果を踏襲。

トレーニング手法：3 つの段階で能力を確立

スケジュール管理、ファイル整理、個人文脈への深いアクセス、長期実行（Long horizon）、マルチモーダル理解などの能力をバランスよく備えるよう設計されました。

トレーニングプロセス

1. 事前トレーニング (Pre-Training)
   • Meta の「Muse Spark」の出力データを、教師モデルと類似したデータミックスを用いて**ロジットディスチリル（Logit Distillation）**手法でトレーニング。
2. 中間トレーニング (Mid-Training)
   • 長いコンテキスト、エージェント要素、推論トレース、および有機的なデータを組み合わせてトレーニングを実施。
3. 事後トレーニング (Post-Training)
   • 強化学習とオンポリシーディスチリルを組み合わせ、一般領域・推論・コーディング・エージェンティック領域など多分野で**Supervised Fine-Tuning (SFT)**を実施。

• 上記のすべては、Meta の「Advanced AI Scaling Framework」基準に基づき評価され、オープンウェイトリリースの条件を満たしています。

エージェント向け設計：Muse Glimmer が得意なこと

ユーザーの目標達成に向けて、以下の能力を協調して発揮するようにトレーニングおよび評価済みです。

• エンドツーエンドのエージェンティックタスク完了
  • DeepSearch QA、MCP-Atlas、τ-Bench、SWE-Bench などの全ベンチマークで高い成功率達成。
  • コード作成・デバッグ、多ターンリクエストの解決など、「scaffolding（基盤構造）」内での高度な動作を実現。
• 信頼性の高いツールの利用
  • 広範囲な関数呼び出しを扱い、長期ワークフロー全体を通じて正確なスキーマでツールを呼び出す。
• 多段階推論
  • 長期（Long horizon）を超えて推論を連鎖させ、複雑な計画を持続させる。
• 失敗からの回復能力
  • エラーや予期せぬ結果に対し処理を停止せず、診断して再試行する動作を習得。
• マルチモーダル入出力と推論
  • テキストに加え、画像の認識エンコーダーを通じてスクリーンショット、チャート、ドキュメントなどを解釈可能に。
• Scaffolding 互換性
  • OpenClaw など、他のエージェンティックオーケストレーションパターンへの対応。
• 制御可能な努力度
  • 品質と速度のバランスを選択できるよう、異なる推論強度をサポート。
• 多言語対応
  • 100 以上の言語由来のデータを用いてトレーニング済み。

パフォーマンス評価とベンチマーク結果

自律的なエージェント動作に必要な多様な能力を広く検証しました。

• 比較対象: Gemma4-31B、Qwen3.6-27B など。
• 結論: サイズクラスにおいて複数の LLM ベンチマークで強力なパフォーマンスを発揮しています。

詳細な評価結果は公式報告書をご参照ください。

ローカル展開向けに最適化：高速化と軽量化

ローカルのエージェントが実用的であるためには、反応速度（遅延のなさ）が重要です。回答や計画に数分かかりすぎることは作業フローを断ち切ることになるため、以下の 2 つの技術で品質を保ちつつ高速化を実現しました。

1. デバイスへのモデル収容（量子化技術の適用）

• 課題: フルプレシジョンでの 300 億パラメータモデルは約 55GB を必要とし、消費者向け GPU では実行不可能。
• 解決策: 重みを約 4 ビット精度まで圧縮（量子化）。
• 効果: モデルサイズを20 GB 未満に抑え、画像理解エンコーダーや推論用ワーキングメモリ（KV キャッシュ）などを同時に動作させる余地を残しました。
• 品質確認: この圧縮による性能劣化は最小限または皆無であることを検証済み。

2. 推測デコーディングによる高速生成（DFlash 技術）

• 課題: トークン単位での逐次生成は遅く感じられ、長期推論チェーンにおいてボトルネックになる。
• 解決策: 軽量な**「ドラフター（Drafter）」モデル**を搭載（DFlash 基盤）。
  • ドラフターがブロック全体のトークンを一度に提案。
  • メインモデルが並列で検証し、正しいものは採用、誤ったものを修正。
• 効果: 標準的な生成よりも著しく高速化しつつ、出力品質は完全に同一を維持。
  • リリース版ではメモリ効率向上のため、量子化されたドラフターバージョンも提供。

📊 実測速度結果（K-Quant-17GB モデル + 量子化 DFlash）

以下のハードウェア上で流体的な会話やリアルタイムなエージェントインタラクションが可能になりました。

• Apple Silicon: MacBook M4-Max、M5-Max
• NVIDIA GPU: RTX-5090

今日から Muse Glimmer を始めよう

Muse Glimmer は今すぐ利用可能です。以下の方法で導入・活用できます。

ダウンロードと実行環境

• ダウンロード元: Hugging Face から重みをダウンロード可能。
• ローカル実行フレームワーク（今後数日以内に対応予定）:
  • Ollama、LM Studio、Unsloth など
  • llama.cpp、ExecuTorch、MLX など
  • vLLM、SGLang（スケーラビリティ向上用）

微調整と展開

• PyTorch / TorchTitan: トレーニング機能を活用し、独自のユースケースに合わせてモデルを微調整可能。
• パートナーエコシステム: AMD, Arm, Dell, Intel, NVIDIA 등과連携したデバイス間最適化を進めています。
• クラウド利用: Together AI, Fireworks AI, OpenRouter などを通じて迅速に開始可能。

リソースとドキュメント

• 責任ある活用を支援する開発者向けドキュメントを公開中。
  • カスタム scaffolding の設定ガイダンスを含む。
  • 個人エージェントの構築・展開を開始できる。
• さらに詳しい情報や学習リソースは、Meta AI Developer Center をご参照ください。

このモデルは、Meta のオープン AI リサーチの伝統を継承し、開発者にローカルのエージェンティック能力へのアクセスを提供します。コミュニティからのフィードバックも歓迎しております。

👇 すぐに始める 👇

• [Hugging Face でモデルをダウンロード]
• [開発者ドキュメントを見る]