Experiential: エージェントワークフロー向けオープンソースゲートウェイ

Experiential は、エージェントワークフローを管理するためのオープンソースのゲートウェイおよびルーターです。

主要特徴

• 柔軟なモデル連携: 一つの OpenAI 互換 API でBYOK (Bring Your Own Key) を利用可能。ローカルモデルも使用できます。
• 詳細な制御機能: ユーザーやエージェントごとのユースケース、モデル選択、予算制限を管理・制御可能です。
• コスト最適化: 本番環境でのトラフィック最適化を実現し、品質・速度・コストに特化したカスタムルーターとして活用できます。

🌐 [プラットフォーム] | 📚 [ドキュメント] | [Discord]

はじめに

ローカルの OpenAI 互換ゲートウェイを開始する。 初めて実行する際は、セットアップウィザードを使用してプロバイダやモデルを選択し、接続設定を行います。その後、永続化された接続情報、パブリックエイリアス、およびデフォルト予算 $50.00 を表示してワンタイムキーを出力します：

pip install experiential
exp

opus-5

export EXP_GATEWAY_KEY=...
curl http://127.0.0.1:8000/v1/chat/completions \
  -H "Authorization: Bearer $EXP_GATEWAY_KEY" \
  -H 'Content-Type: application/json' \
  -d '{"model":"opus-5","messages":[{"role":"user","content":"Help me"}]}'

ホスト型のゲートウェイで設定・開始する。 ローカル実行ではなく、管理されたゲートウェイを希望の場合は

platform.experientiallabs.ai

https://api.experientiallabs.ai/v1

コーディングエージェント（Claude Code、Cursor など）へのセットアップ詳細は

SETUP.md

1. LLM のトレースをテレメトリとしてアップロード
   • メールアドレスで即座にアカウント作成
   • 既存の LLM テレメトリデータを取得・アップロード
2. 推論プロバイダのキー（BYOK）を接続
   • OpenAI、Anthropic、Gemini、Azure、Bedrock、Fireworks、OpenRouter のキーを無料でパススルー
3. ゲートウェイからのモデル呼び出し

   • xpl_

     キーを使用した SDK 初回呼び出し (

     /v1

     )
   • 既存コーディングエージェントの再指向
4. 完全なオンボーディング
   • アカウント作成、キー接続、使用金額インポート
   • Claude Code、Cursor、Aider などすべてのエージェントをゲートウェイへ再指向

API の使い方

exp

exp run

import exp

with exp.load_router("my-project") as client:
    response = client.chat.completions.create(
        model="my-project",
        messages=[{"role": "user", "content": "hello"}],
    )

トラフィックからの最適化

まず、現在のエージェントからOpenTelemetry のトレースを収集してください。お試し用データセットは以下の通りです：

curl -L -o traces.otel.jsonl \
  https://huggingface.co/datasets/experiential-labs/wmo-terminal-tasks-traces/resolve/540883e451dc13d34fb50fdd36b143cb0f1fb0db/traces.otel.jsonl

その後、プロジェクトを構築します。ビルドコマンドはプロバイダ、モデル、および予算の設定を案内し、トレースファイルを指定するよう求めます：

# エージェントのトレースからシミュレーションを構築し、その上でルーターを最適化する
exp build support-agent

ルーターからのトレース収集後、Tinker を使用して自身が所有するオープンソースモデルをファインチューニングします。

exp optimize model support-agent

テレメトリ

匿名の集約された PostHog プロダクトテレメトリ はデフォルトで有効です。このデータには、プロンプト、トレース、アクションなどの生データは一切含まれません（認証情報や顧客コンテンツも除外されています）。

exp config telemetry status
exp config telemetry disable
exp config telemetry enable

設定はローカルの

.exp/settings.toml

開発環境

開発タスクの推奨コマンド：

• uv sync --extra dev

• uv run ruff format --check .

• uv run ruff check .

• uv run ty check

• uv run pytest -q

リポジトリおよびドキュメントの慣習については、

AGENTS.md