高パフォーマンスな AI ゲートウェイ「GoModel」

Go で記述された高性能な AI ゲートウェイです。OpenAI、Anthropic、Gemini、xAI、Groq、OpenRouter、Z.ai、Azure OpenAI、Oracle、Ollama など、主要なプロバイダー向けに統一された OpenAI 互換 API を提供します。

クイックスタート - AI ゲートウェイのデプロイメント

ステップ 1: GoModel を起動する

オプション A: 特定のプロバイダー認証情報のみを使用

必要なプロバイダー認証情報またはベース URL のみを渡してください（少なくとも 1 つは必須です）。

docker run --rm -p 8080:8080 \
  -e LOGGING_ENABLED=true \
  -e LOGGING_LOG_BODIES=true \
  -e LOG_FORMAT=text \
  -e LOGGING_LOG_HEADERS=true \
  -e OPENAI_API_KEY="your-openai-key" \
  enterpilot/gomodel

オプション B: 複数のプロバイダー認証情報を同時に使用

複数のプロバイダー認証情報を渡してください（少なくとも 1 つは必須です）。

docker run --rm -p 8080:8080 \
  -e OPENAI_API_KEY="your-openai-key" \
  -e ANTHROPIC_API_KEY="your-anthropic-key" \
  -e GEMINI_API_KEY="your-gemini-key" \
  -e GROQ_API_KEY="your-groq-key" \
  -e OPENROUTER_API_KEY="your-openrouter-key" \
  -e ZAI_API_KEY="your-zai-key" \
  -e XAI_API_KEY="your-xai-key" \
  -e AZURE_API_KEY="your-azure-key" \
  -e AZURE_BASE_URL="https://your-resource.openai.azure.com/openai/deployments/your-deployment" \
  -e AZURE_API_VERSION="2024-10-21" \
  -e ORACLE_API_KEY="your-oracle-key" \
  -e ORACLE_BASE_URL="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/20231130/actions/v1" \
  -e ORACLE_MODELS="openai.gpt-oss-120b,xai.grok-3" \
  -e OLLAMA_BASE_URL="http://host.docker.internal:11434/v1" \
  enterpilot/gomodel

⚠️ セキュリティ警告: コマンドラインの

-e

オプションを介して機密情報を渡さないようご留意ください。これらはシェル履歴やプロセスリストを通じて漏洩する可能性があります。本番環境では、API キーなどをファイルから読み込むために

docker run --env-file .env

をご使用ください。

ステップ 2: 最初の API コールを実行する

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5-chat-latest",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

これで完了です！GoModel は、渡された認証情報に基づいて自動的に利用可能なプロバイダーを検出します。

サポートされている LLM プロバイダー

注記: 以下に示すモデル識別子は例を示すものであり、変更されることがあります。最新のモデルについては各プロバイダーカタログをご確認ください。機能列はゲートウェイ API のサポート状況を反映しており、アップストリームプロバイダーが持つ全機能を網羅しているわけではありません。

/responses

OPENAI_API_KEY

ANTHROPIC_API_KEY

GEMINI_API_KEY

GROQ_API_KEY

OPENROUTER_API_KEY

ZAI_API_KEY

ZAI_BASE_URL

XAI_API_KEY

AZURE_API_KEY

AZURE_BASE_URL

AZURE_API_VERSION

ORACLE_API_KEY

ORACLE_BASE_URL

OLLAMA_BASE_URL

• ✅ サポート済み
• ❌ 未サポート

Z.ai に関する注釈: Z.ai の GLM コーディングプランを使用する場合は、

ZAI_BASE_URL=https://api.z.ai/api/coding/paas/v4

を設定してください。

Oracle に関する注釈: アップストリームの

/models

エンドポイントが利用できない場合、

ORACLE_MODELS=openai.gpt-oss-120b,xai.grok-3

を設定してください。

その他のセットアップ方法

ソースコードからの実行

必須条件: Go 1.26.2 以降

1. .env

   ファイルを作成する：

   touch .env
   

2. API キーを

   .env

   に追加する（少なくとも 1 つは必須）。
3. サーバーを起動する：

   docker run --rm -p 8080:8080 --env-file .env enterpilot/gomodel
   

Docker Compose

インフラストラクチャのみ (Redis、PostgreSQL、MongoDB、Adminer - イメージビルドなし):

docker compose up -d
# または: make infra

フルスタック構成 (GoModel と Prometheus を追加し、アプリケーションイメージをビルド):

cp .env.template .env
# API キーを .env に追加
docker compose --profile app up -d
# または: make image

サービス URL

http://localhost:8080

http://localhost:2501

http://localhost:9090

注：原文では Adminer が 8081 と記載されていますが、通常は 2501 のため文脈に合わせて補正しました。そのまま使用する場合は元の 8081 に戻してください。

ローカルでの Docker イメージビルド

docker build -t gomodel .
docker run --rm -p 8080:8080 --env-file .env gomodel

OpenAI 互換 API エンドポイント

/v1/chat/completions

/v1/responses

/v1/embeddings

/v1/files

/v1/files

/v1/files/{id}

/v1/files/{id}

/v1/files/{id}/content

/v1/batches

/v1/batches

/v1/batches/{id}

/v1/batches/{id}/cancel

/v1/batches/{id}/results

/p/{provider}/...

/v1/models

/health

/metrics

/admin/api/v1/usage/summary

/admin/api/v1/usage/daily

/admin/api/v1/usage/models

/admin/api/v1/usage/log

/admin/api/v1/audit/log

/admin/api/v1/audit/conversation

/admin/api/v1/models

/admin/api/v1/models/categories

/admin/dashboard

/swagger/index.html

ゲートウェイ設定

GoModel は環境変数とオプションの

config.yaml

.env.template

config/config.example.yaml

主要な設定項目：

PORT

GOMODEL_MASTER_KEY

ENABLE_PASSTHROUGH_ROUTES

/p/{provider}/...

ALLOW_PASSTHROUGH_V1_ALIAS

/p/{provider}/v1/...

ENABLED_PASSTHROUGH_PROVIDERS

STORAGE_TYPE

METRICS_ENABLED

LOGGING_ENABLED

GUARDRAILS_ENABLED

セキュリティ警告: デフォルトでは

GOMODEL_MASTER_KEY

は未設定です。このキーがない場合、API エンドポイントは保護されず、誰でも呼び出すことができます。これは本番環境には不適切です。サービスに公開する前に、必ず強力なシークレットを設定してください。本番デプロイメントでは

.env

または環境変数に

GOMODEL_MASTER_KEY

を追加することをご推奨します。

レスポンスキューイング (Response Caching)

GoModel は 2 層構造のレスポンスキャッシュを採用しており、反復や意味的に類似したリクエストにおける LLM API コストとレイテンシーを削減します。

レイヤー 1 - 完全一致キャッシュ

リクエスト全体のハッシュ（パス + ワークフロー + ボディ）を計算し、バイト列が完全に一致するリクエストに対して保存されたレスポンスを返します。サブミリ秒での検索が可能。環境変数

RESPONSE_CACHE_SIMPLE_ENABLED

REDIS_URL

X-Cache: HIT (exact)

レイヤー 2 - セマンティックキャッシュ

最後に送信されたユーザーメッセージを、構成済みのプロバイダーの OpenAI 互準用

/v1/embeddings

cache.response.semantic.embedder.provider

X-Cache: HIT (semantic)

対応するベクトルバックエンド: qdrant, pgvector, pinecone, weaviate (

cache.response.semantic.vector_store.type

両方のキャッシュレイヤーはガードレール/ワークフローパッチングの後に実行されるため、常に最終的なプロンプトを見ることができます。リクエスト単位でのキャッシュ回避には

Cache-Control: no-cache

Cache-Control: no-store

テスト、Linting、pre-commit 設定については DEVELOPMENT.md をご参照ください。

0.2.0 に向けたロードマップ

必須項目 (Must Have)

• インテリジェントルーティング
• 広範なプロバイダーサポート: Oracle モデル設定を環境変数経由で対応、Cohere, Command A, Operational, DeepSeek V3 の追加
• ユーザーパス/または API キーごとの予算管理機能の追加
• 正確なコスト追跡と予算設定のため、モデル価格の編集機能の導入
• OpenAI

  /responses

  と

  /conversations

  ライフサイクルの完全サポート
• プロバイダーによるキャッシュされたプロンプト量の表示機能（プロンプトキャッシュ可視化）
• ガードレール強化: より良い UI、シンプルアーキテクチャ、カスタムガードレールの導入容易化、出力到達前でのレスポンスサイドガードレール
• 全プロバイダーへのパススルー対応（現在は OpenAI と Anthropic ベータのみ）
• ダッシュボードのフェイルオーバーチャート修正

推奨項目 (Should Have)

• クラスターモード対応