Cloudflare: 意思決定モデル「Clef」と強化学習製品を発表

直近数週間、Typesafe AI の Jev システムなど意思決定モデルに関する議論が続いていましたが、Cloudflare は**「Clef」と「Clef-flash」**の 2 つの新しい意思決定モデルを Workers AI で提供します。これにより、自律的なエージェントワークフローの革新が可能となります。

意思決定モデルとは？

意思決定モデルは、確率に基づいて分類を行い、AI エージェントがどのように行動すべきかを判断させるために役立ちます。

• 入力から出力へ: カスタマーサポートへのメッセージなどを入力し、「緊急性」や「担当チーム」「深刻度」などを判定します。
• 型指定された回答 (Typed Response): コードによるチケットルーティング、エスカレーショントリガー、人間への対応延期などに即座に利用できるよう、確率を伴う厳密な出力を返します。
• 自動化の促進: エージェントはコンテキストを程序的に収集し、意思決定を行い、タスクを実行するか、必要最小限のみ人間へ引き継ぐことができます。

Cloudflare の実用例：脅威インテリジェンス

Threat Intelligence チームでテストしており、ウェブサイトドメインの分類に貢献しています。

• 高速な分類: Clef はウェブサイトのフェッチ・レンダリング・分類を2.2 秒で完了します。
  • 「ファッションサイト (95%)」「E コマースサイト (85%)」「フィッシングサイト (1%)」などを即座に判定。
• 圧倒的な効率性:
  • Clef: 2.2 秒 vs 汎用 LLM (gpt-oss-120b): 4.7 秒。
  • クラスタでは2 つ、Clef では多数のカテゴリを判定可能。
  • レイテンシと結果において約2 倍の節約を実現し、悪質・合法的ドメインの識別速度向上に寄与します。

モデル名の由来

音楽理論における「クレフ（五線譜の記号）」のように、コンテキスト領域およびアクション（ノート）を定義する役割から命名しました。また、"CF"はCloudflareを示唆しています。

---

Clef 他の意思決定モデルとの違い

市場には多くの意思決定モデルが存在しますが、Clef は以下の独自特性を備えています。

1. 画像エンコーダー搭載: 画像を入力とし、視覚コンテンツの分類が可能（従来のテキスト分類のみだった Jev との違い）。
2. 広大なコンテキストウィンドウ: 64k トークンに対応（Jev は 32k）。より多くの入力情報を圧縮して処理可能です。
3. 高精度と競争力: 各種品質ベンチマークにおいて、市場の他のモデルを上回るスコアを達成しています。

ベンチマーク比較結果

Clef と Clef-flash は、Jev や他社モデル（Diffusion, Gemma Jev など）と比較して卓越した性能を示しています。

ベンチマーク	Clef	Clef-flash	Jev	Diffusion
ToolRet · nDCG@10	69.19	66.43	65.28	61.21
API-Bank · accuracy	91.93	93.11	88.19	83.66
Home appliances · case exact	82.95	97.73	52.27	42.05
BANKING77 · macro-F1	94.20	90.93	79.74	74.28
CLINC150+OOS · macro-F1	97.43	66.77	89.27	83.49

• Clef-flash の特徴: 大幅に高速化されており、特に「請求書処理」や「セキュリティインシデント」などにおいて高い精度とスピードを実現しています。
• レイテンシ改善: 43 の評価ベンチマークにおいて、Clef はすべてのモデルでレイテンシを改善。Laya（非常に高速だが品質とのトレードオフあり）を除く全てのモデルで優位性を示しました。

メトリクス	Clef	Clef-flash	Jev
Median latency · ms	209.33	8.85	24.18
p95 latency · ms	238.61	22.45	36.02

インフラストラクチャの強み

Clef はWorkers AI上でホストされており、以下のメリットがあります。

• エッジ GPU の活用: ネットワークレイテンシの低減と高速化を実現。
• ホットパス配置: エージェントが意思決定を行う重要な経路に Clef を配置し、LLM と組み合わせることで即座にアクションを実行可能。

API 使用例 (cURL)

Clef は Jev と同様、厳密な型指定された出力を生成し、完全に API 互換性があります。

curl https://api.cloudflare.com/client/v4/accounts/$CLOUDFLARE_ACCOUNT_ID/ai/run/@cf/cloudflare/clef \
  -X POST \
  -H "Authorization: Bearer $CLOUDFLARE_AUTH_TOKEN" \
  -d '{
    "model": "clef",
    "state": "Checkout has been failing for every customer for the last hour.",
    "questions": {
      "urgent": { "type": "noul", "instructions": "Is this support request urgent?" },
      "team": {
        "type": "choice",
        "instructions": "Which team should handle this request?",
        "criteria": {
          "billing": "Payments, invoices, and refunds",
          "technical": "Outages, errors, and configuration",
          "sales": "Plans and upgrades"
        }
      },
      "severity": {
        "type": "score",
        "instructions": "How severe is the customer impact?",
        "criteria": ["No impact", "Minor", "Major", "Critical"]
      }
    }
  }'

モデル選定ガイド

• Clef: より高い精度を必要とする用途向け。
• Clef-flash: レイテンシ（反応速度）が最重要な意思決定タスク向け。

両モデルとも企業導入準備ができており、データは保存・トレーニングに使用されません（ファインチューニングサービス利用時のみ例外）。詳細は 開発者ドキュメント または Hugging Face で確認いただけます。

---

Clef の訓練方法について

Clef は、独自のアプローチにより大規模言語モデルの能力を拡張しました。

• ベースモデルの変更:
  • 従来の Jev（DiffusionGemma ベース）から、Qwenへ移行。
  • Qwen を意思決定タスクに適したように再訓練（フルフィニート）。
• 高速化の仕組み:
  • 推論時、「プリフィルのみ」パスで Qwen を利用。
  • 有効なスキーマ選択を並列でスコアリング。
  • 中間テキスト生成を行わず、バックボーン表現から直接出力を導出することで、自己回帰型 LLM よりも著しく高速。
• 高度なアーキテクチャ:
  • 選択肢固有の証拠ルーティングと連合クロスフィールドアテンション。
  • ラーニングヘッド（Rank 256 のローランクアダプター）を最適化。
  • 強化学習によるキャリブレートッドな意思決定 (RLCD) を採用し、隣接順序選択への部分的信用と分布シフト防止の参照ペナルティを適用。

これにより、精度向上、テキスト生成ではなく確率のみ出力、そして高速化という 3 つの革新達成しました。

---

ファインチューニングによる能力拡張

Cloudflare 内の多様なユースケース（トラスト＆セーフティ評価、サポートリクエストのトリアージ、ボット判定など）に合わせて、Clef をファインチューニングするサービスを提供します。

• 特定化された高精度: 汎用的なモデルよりも特定のドメインに最適化され、より高い精度を実現。
• FDE チームとの連携: 最初是客户エンジニアリング（FDE）チームとハンズオンを行い、その後セルフサービスのプラットフォームへ進化させる計画。
• 内部データ活用: Cloudflare が保有する 15 年以上のネットワークデータを基に、汎用モデルを超えた特定ユースケースへの対応が可能。

---

新しい RL サービスについて

Clef をお客様のワークロードに合わせてファインチューニングするための、強化学習（RL）製品をリリースします。

エコシステムの構成要素

以下の Cloudflare プラットフォームのプリミティブを活用した統合ソリューションです。

• Cloudflare AI Gateway: 全 AI トラフィックを通し、ユースケース用のリクエストデータセットを自動生成。
• Cloudflare Workers AI: ベースとなる Clef モデルに対するロールアウト（試行）を実行。
• Cloudflare Containers: エージェントアクションのスコアリングと再プレイのための RL サンドボックス。
• [NEW] Trainer: ファインチューニングされた Clef モデルの加重を更新。
• Bring Your Own Model (BYO): 外部モデルをファインチューニングして Workers AI に再デプロイ可能。

これは、AI Gateway や Containers、Replicate 買収後の BYO モデル機能など、長年にわたる技術的蓄積の結果です。

---

まとめ：今日ぜひお試しください

• 初期リリース: Cloudflare 訓練済み ML モデル「Clef」を Workers AI チームから公開。
• 未来の展望: さらに改良を重ねながら、**「エージェントクラウド」**ミッションに沿って発展していきます。
• 参加方法:
  • ホストモデルの利用: Workers AI で試す。
  • ローカル実行/実験: Hugging Face でオープンソース版（Apache 2.0 ライセンス）をダウンロード。
  • ファインチューニング: 特定のユースケースへの対応が必要な場合、サポートをご希望の場合はお問い合わせください。

Cloudflare の ML チームはモデル最適化・研究において影響力を増しており、より多くの開発者を歓迎しています。