AI と SRE: 能力低下（Deskilling）の危機と持続的対応へ

はじめに：ニュースレターのおもむき

• 作成者: SigNoz のエリザベス
• テーマ: 可視性、OpenTelemetry、オープンソースプロジェクト、エンジニアリングの世界など多岐にわたる話題。
• 制作期間: 記事の作成・編集に6 日と数時間を要しました。「ご用意いたしました」という気持ちでお届けします🌚

業界の予言と現実的な問い

現在テクノロジー業界で囁かれている 2 つの予測について、SRE の立場から考察します。

2 つの予測

1. 「SRE はすべての未来である」
   • AI がコード生成を担うにつれ、人間はシステムを稼働させる役割のみを残される。
2. 「AI が全技術職を奪う」
   • SRE も例外ではなく、あらゆる職種が AI に取って代わられる。

より現実的な問い

• これらの予言は実用的ではありません。
• 重要: 「AI がインシデント対応の**95％を担当する場合、残りの本当に重要な5％**において人間の能力は低下しないか？」という問いに答える必要があります。

産業用自動化の教訓：ベインブライドジのパラドックス

1983 年、認知心理学者のリサニー・ベインブライドジが発表した『Automation の皮肉（Ironies of Automation）』は、この議論の基盤です。

工場の事例から学んだこと

• 自動化による影響: ブルーカラー労働者の作業が自動化されると、以下の現象が起きます。
  • ✅ 通常時: プロセスがスムーズに進む。
  • ❌ 失敗時: 自動化が失敗した瞬間に人間の重要性が増大するが、練習機会が激減するため能力が低下していく。
• 結論: 「人間をループから排除」しようとする自動化は、逆に人間を**最も困難な役割（長期間の受動的監視と、準備のない高リスク危機への対応）**へと追いやることになります。

AI と知識労働者の類似性

• 産業用自動化が物理的作業を変貌させたように、AI も定型的な認知作業を引き継いでいます。
  • パターンマッチング
  • タスクの優先順位付け（Triage）
  • 既知の不具合の解決
• 残された課題: 稀有で複雑かつ曖昧な問題が残されますが、これこそが専門性を要する領域です。練習を止めてしまうと、この能力は萎縮してしまいます。

AI が SRE の能力を弱体化させる現状

現在の SRE 現場では、以下のタスクが高度に自動化されています。

• 自動化済みタスク:
  • 警戒ノイズの削減とインテリジェントなグループ化
  • 既知問題に対する Runbook の自動実行
  • ログのパターン検出と異常フラグ付け
  • 根本原因提案（履歴データに基づく）
  • よくある障害モード向けの自動修復（例：Pod 再起動、サービススケールアップ）

即時の目標として求められること

• メトリクス・ログ・トレースを横断するマルチシグナル相関分析
• 自律的な根本原因解析（部分的に理解されている障害に対しても）
• ユーザーへの影響前にインシデントを検出する予測機能
• AI による変更リスク評価と自動ロールバック

PagerDuty の段階的モデル

Tier	インシデントの性質	対応主体
Tier 1	既知の問題（解決策明確）	完全自動化
Tier 2	部分的に理解された問題	AI が推奨し、人間が検証
Tier 3	新規・複雑・カスケード化する障害	人間主導（AI は支援役）

ここにある重大な懸念点

• もし SRE が Tier 3 のインシデント（未見の新型障害）のみに対処することになれば、直感力をどう養うでしょうか？
• 直感は、以下を通じて培われるものです。
  • 何年到るにわたる実際の対応経験
  • 反復を通じたパターン認識
  • システム理解のための深夜作業やバグ修正（痛烈な学び）

デスキリング（Deskilling）とネバー・スキルリング（Never-skilling）

複数の分野で確認されている、AI 誘発的な能力低下の実例です。

医療分野の事例

• 現象: AI アシスタントを使用してポリープ検出を行っていた内視鏡医。
• 結果: AI を利用した期間後、無支援での検出率は28％から 22％に低下。
• 理由: 理論的な知識は忘れないが、技能を練習しなくなることで能力が悪化した（使用していない筋肉は萎縮する）。

航空分野の事例

• 現象: オートパイロットへの過度な依存。
• 結果: 状況把握能力や手動操縦能力の著しい低下。
• 対策: FAA は、手動操縦時間を義務付ける規制を強化（過剰生産性としての AI に騙されないこと）。

SRE における「錆びる脳」

• システムに処理させるほど、自分で処理する能力は低下します。
• この過程は**「過剰生産性」**としてマスクされ、自覚されません。
  • 「ダッシュボードが緑色で、自分には有能だ」と感じながら、実際には木曜日に新型インシデントが発生した瞬間に「筋肉（スキル）が萎縮している」ことに気づくことになります。

SRE の具体的な変化パターン

• 生のログストリームを読むのをやめ → AI に要約させる
• 仮説を立てるのをやめ → AI が提案する根本原因を採用する
• アーキテクチャのメンタルモデルを構築しなくなる → 相互依存関係を AI に依存してマッピングさせる

⚠️ 注意: 個別に見れば生産性向上ですが、集合的に SRE に必要な専門性を空洞化させます。

新しい危機：ネバー・スキルリング（Never-skilling）

• Deskilling: 以前持っていた能力を失った状態。
• Never-skilling: その能力自体を開発する機会さえなかった状態。
  • ジュニア SRE が実践を通じて基礎的な直感力や筋肉記憶を構築する機会が消失しつつあります。
• 悪循環: 自分がスキル低下していることに気づき AI に依存 → さらにスキル低下 → 脱出困難な状況。

対策：意図的な非効率性と Humans-on-the-side

AI ツールの拒否ではなく、より強力に統合・活用するためのアプローチが必要です。

1. 意図的な非効率性（Intentional Inefficiency）の導入

• FAA の例のように、オートパイロットが完璧でも手動飛行を義務付ける。
• SRE チームへの提言: AI でも解決できるインシデントを、人間の練習機会として指定する。
  • 短期的にはコストがかかりますが、長期的なスキル維持への投資です。

2. Human-in-the-loop から Human-on-the-side へ

• Human-in-the-loop: AI の推奨を承認するだけ（監督的役割）。 → 警戒心低下（Vigilance Decay）を招く。
• Human-on-the-side: 人間が AI と共に能動的に問題に取り組む。 → 認知継続を維持する。

シグノズ（SigNoz）のアプローチと展望

この自動化の皮肉やリスクは SRE のみに限りませんが、SigNoz という可視性プラットフォームの所有者としての立場からも重要です。

我々の戦略

1. 人間をコントロール下において: LLM を活用しつつも、明確なガイドライン範囲内での信頼ある段階のみで自律性を高める。
2. データ層所有の強み:
   • 多くの AI ベンダーは API 経由で間接的なビューしか持てないが、我々はメトリクス・トレース・ログを直接所有。
   • これにより、経験豊富な SRE の理解に基づく深い文脈意識を持つ AI 機能を構築できる。

ゴール：SRE を強化する AI

• 目標: SRE を代替する AI が 아니라、SRE を強化する AI。
• 信念: 人間は、プロダクションインフラに影響を与える重要な決定において不可欠である。
• 未来の姿: 「AI と共にいる人間」。意図的に設計された形で、人間の鋭敏性・参加意識・重要 5％への備えを維持する存在です。

---

さらに議論を深めたいですか？ このトピックについてさらに読みたければ、準備はできていますか？