日本語訳:

核心的な議論は、AI モデルの改善のみならず、自律エージェントの特定の自律レベルをタスク特性に合わせることにこそ、安全な実装が依存するものであるという点にある。監督なしで動作するためには、実行直前に決定論的な検証方法及び保証された元に戻せる機能を統合しなければならない。特に主観的なタスクや高リスク環境では、エラーを防ぐために人間の判断を保持するか、スコープ付き資格情報のような厳格なアクセス制御を維持する必要がある。

例えば、PostHog の現在の PR 承認エージェントは、除外リスト上のキーワードを含む機密リクエストを人間に戻すことで、既存の安全性プロトコルを実証している。歴史的に、4 つの自律レベルが存在する：Level 0 はチェックが困難で費用が高く複雑なタスクであり、手動での処理が必要となる；Level 1 は安価に元に戻せる主観的な評価を行うタスク；Level 2 はチェックは容易だが元に戻すのに高コストなタスク；Level 3 はチェックも容易で元に戻すことも安価なタスクである。将来に向けて、「Scout」エージェントは Level 3 の条件にも拡張し、データを自律的に調査してプルリクエストの草案を作成するだろう。今後の進展は、ドメイン固有モデルのトレーニングと、現在の知識ギャップを埋めるために専門家のコンテキストバンクの構築に焦点が置かれる。究極的には、このアプローチは企業が人間によるループ（human-in-the-loop）支援から、日常的なコーディングタスク用の自己走行モードへの安全な移行を可能にし、自律性が偶然の能力獲得ではなく、測定可能な目標を通じて設計されるような未来を確立する。

エージェントへの委任タイミング：メンタルモデルと安全な自律化のガイド

信頼を置くべき基準とは

人々は業務を代理エージェントに任せるようになりつつありますが、どのタイミングでその信頼を寄せるべきかを見極める必要があります。

なぜ「モデル性能」だけでは不十分なのか

一般的な誤解: モデルが良くなれば、それだけ任せてもよくなるという考えは、「車が進化したからシートベルトを外しても大丈夫」と同じように危険です。
真の答え: 信頼できるタイミングはモデルの性能とは無関係であり、すべてはタスクそのものにあります。
必要なアクション: タスクに応じて「メンタルモデル（心象的な枠組み）」を構築し、委任範囲を適宜調整する必要があります。

安全に動作させるための 2 つの質問

監督なしでエージェントを利用する際は、以下の 2 つの要素を確認してください。

決定論的検証可能性: その作業は確認しやすいか？（例：ユニットテストや統合テストが可能か）
- コードレベルであれば実現可能だが、パラメータ名変更など主観を要するタスクでは困難です。
エラー時の代償: エラーが発生した際、元に戻しにくいか？
- 最悪のケースに対し、「保証された Ctrl+Z（取り消し機能）」が存在することが必須前提です。
- 例：
```
deny-list
```
  キーワードを含むものを人間へルーティングするなど、安全性を担保する仕組みが必要です。

タスク分類と委任レベル

上記の 2 つの要素を組み合わせることで、タスクを以下の 4 つのレベルに分類し、意思決定を行えます。

レベル	名称	特徴	適したタスクの例
Level 0	アシスタント活用	検証困難＋取り消し困難	• 機密性や難解さのあるコード • 助言要求、自動補完など
Level 1	ヒューマン・イン・ザ・ループ	検証困難＋取り消し容易	• 主観的評価が必要な作業 • ドラフト状態のコード（マージ待ち） • 注釈追加や見やすさのリファクタリング
Level 2	エージェントへの委任	検証容易＋取り消し困難	• 開発作業のデフォルト • マージは安全チェックでゲート制御 • ポリシーとガードレール（機能フラグ等）を実装
Level 3	セルフドライビングモード	検証容易＋取り消し容易	• 依存関係のアップデート • リント修正、テストカバレッジ追加 • 長期間動作するオーケストレーション

注釈: Level 2 と Level 3 の境界線は急速に進化しています。現在は Level 2 が主流ですが、自律化への移行が加速しています。

レベルごとの戦略と具体例

1. Level 0: エージェントをアシスタントとして活用

状況: 古風な方法（ChatGPT の助言や Cursor の補完）であり、機密性のあるコードの表面的な難問解決に適しています。
具体例: 機能フラグエンジンの移行など、間接的な影響が巨大で検証困難なケース。
戦略: 「タスクを細分化する」
- リスクの高いコア作業は手動で行い、リスクの低い展開業務のみエージェントに任せる。

2. Level 1: ヒューマン・イン・ザ・ループ（人間が関与）

状況: エージェントに「センス」や「判断力」を教えることは現時点で困難です。マージ前の検証段階で安全を保ちます。
具体例: コード可読性のリファクタリング、ランディングページのコピー変種実験など。
戦略:
- LLM-as-judge の活用: モデルが改善され、主観的評価も検証可能になるようシステムを設計する。
- 範囲限定かつ測定可能なゴール: 「3% のコンバージョン」などの数値目標で代替手段を設定する。
- カスタムスキル開発: チーム固有の基準や慣習に合致した成果物を生成させるための機能を定義する。

3. Level 2: エージェントへの委任（デフォルト）

状況: 現在の開発者の大部分のタスクがこのレベルです。エージェントがコードを作成し、人間による最終的な安全チェック（ゲート制御）を行います。
具体例: SQL パースャーの書き換えなど。本番環境でのシャドウモード運用や段階的切り替えで保護する。
戦略: 「コードでポリシーとガードレールを実装する」
- 人間が手動でゲート制御するのはボトルネックになるため避け、デフォルトでドライランを許可し、変更を機能フラグで囲うなど自動化された安全性を確保する。

4. Level 3: セルフドライビングモード（自律運転）

状況: 依存関係更新やリント修正など。将来的には複雑なオーケストレーションも含まれます。
現状: タスク数はまだ少ないが、長期間動作するエージェントの出現に伴い急速に拡大しています。

セルフドライビングモード実現に向けた取り組み

PostHog ではビルダー向けに自律化の実現を推進しており、製品データからのシグナルに基づいた PR ドラフト化を行うスケジューリングされたエージェント**「Scouts」**をローンチしました。

主要な促進要因

ドメイン固有モデルのトレーニング:
- 汎用的な LLM では困難な検証タスクの改善に貢献。
- PostHog の独自 AI モデルを用いることで、「良いコード」という概念をドメインで理解させる。
エキスパートレベルのコンテキストバンクの構築:
- エージェントの自律性不足は「コンテキスト不足」が原因であることが多い。
- 構造化された新鮮な知識（PostHog Wizard のコンテキストレイヤー等）を提供することで信頼性を高めた。
Scouts 向けに明確なシグナルの設計:
- 長期間動作するエージェントにとって重要なのは、「価値のある作業」の特定と、ノイズとの区別能力。

出典: Level 0 でニュースレター作成中の Jina Yoon 氏

エージェントにどのくらい権限を委譲できますか。