Japanese Translation:

本論の核心は、大規模言語モデル（LLM）が継続的な人間の方向性、制御、そして自発的行動の特徴である感覚的反饋を欠くため、自動化の一種であり真のツールではないという点にある。真のツールは、ユーザーが技能と専門性を発揮しつつ力を加え、意図を持ち、レバレッジをかける必要があり、その機能は予測可能で信頼性があり決定論的かつ境界付けられている。それに対し、LLM はほとんど直接的な人間の制御なしに自律的に動作し、ユーザーはリクエストを作成するだけでシステムが独自に行動するため、「コードの記述や議論の策定」といったタスクを実行する道具として扱うのではなく、それらの任務から実質的に撤退していると言える。

本文は、眼鏡を入れるためのシャツのポケットやドライブスルー窓という例を用いて、有用性が単独で何かを「ツール」にすることは示さないと論じている。そのような物品は有用ではあるが、握って用いられるわけではない。同様に、ユーザーが特定のプロンプトを用いて LLM を「ゲーム化」する際に、それは現実世界の論理や物理ではなくモデルの内部メカニズムと対峙していることになる。LLM を単なるツールとして扱うことは、それらの道具との本質的な違いを曖昧にする：道具は方向性のずれ、暴走、あるいはcontainment の脱出を起こさないのに対し、LLM はこれらとは異なる特性を持ち、慎重な理解を要するものである。

今後も LLM を標準的なツールとして分類し続けることは、記述、推論、批判的観察といった本質的な認知スキルを侵食するリスクがあり、ユーザーが知的努力から撤退し、現実世界の真理との関わりや深い専門性の育成を見逃すような未来を招く。究極的には、複雑な AI システムを受動的な装置と誤って分類することは、個人の主体性の危険な損失を招き、自動化が進む世界における批判的思考の有効なタスク管理の発展を妨げる。

AI LLM は「ツール」ではなく「自動化」である：制御とフィードバックの欠如について

これまで短論として発信してきましたが、本日はLLM（大規模言語モデル）の本质を詳細に展開します。重要なのは、言葉の定義ではなく、人間が世界とどう接するかです。

「Tool」という概念の再定義

「tool」という言葉は単なる陳腐な言い換えではありません。**「搾取可能となる何者か／事物」**という定義で LLM に対して留保すべきです。

道具 vs 自動化の境界線
- シャツの胸ポケット: 眼鏡を取り出すための「有用性」はあるが、「道具」ではない。
- ファストフードのドライブスルー: 料理を回避するための「自動化」であり、料理を作る道具ではない。
- LLM の位置づけ: コードを書くためのツールではなく、**コード作成行為からの退行（回避）**をもたらすシステム。

「LLM は私の論文を書いたのではなく、私はそれを読み要約する道具として利用しただけだ」という主張は誤りです。あなたは Kindle で本を読むように LLM を操縦しているのではなく、**LLM があなたの代わりに「読んでいる」**のです。

真の「ツール」に必要な特性

私が最も好む方針は、以下の通りです：「tool は、あなたが操縦するものでありなさい。」

1. 操縦（Wield）の意味

定義: 工具を使用し、全権限または力を持って統制・制御・操作すること。
対照: LLM はこれらが欠如しており、あくまで自動化の域を出ません。

2. ツールが決定的に持つ特徴

優れたツールには以下の特性があります（LLM に欠ける点）：

予見可能性と信頼性: 行動が予測できること。
決定論的振る舞い: 同様の入力に対して常に同様の出力を行うこと。
機能の有界性: 範囲が限定されており、意図を超えた行動をしないこと。
単純さ: 必要以上に複雑化せず、直感的に理解できること。

3. 手中に握られることの重要性

ツールとは、**あなたのために作業を代行するものではなく、あなたが「何かを行うための器具」**です。

制御とフィードバック: 手触りを通じて感覚的フィードバックを得られ、行為への親密さが生まれます。
力（レバレッジ）: エネルギーの伝達と方向付けが可能です。
統制: 意図および事象の行方を絶えず導くことができます。
- ツールの使用は構築を生み出し、報酬を与え、専門知識の獲得を促します。
- 経験（ラテン語：experiri＝試す）こそが、専門知識を構築する不可欠なプロセスです。

自動化による喪失：学ばない代償

自動化を使用しながら得られるものは「現実世界の真実」ではなく、自動機の詳細推測や巧妙な利用法に過ぎません。

具体的なリスク事例

オニオンなしのバーガー: 「カスタマイズ」という名の恣意的な要求（しわくちゃで冷たい結果）。
呪文を書く行為:
```
voodoo.md
```
ファイルに魔法のようなコードを書き込むだけで、理解を深めることではない。
- 最新のアルゴリズムが更新されるたびに、あなた自身も単なるソフトウェアのアップデートとして陳腐化します。

「自動化」の使用で失われるもの

自動化を使用することによって、あなたは以下を失います：

❌ 自分で書けるようになる力を学ぶ機会: 議論構築の方法や論理構成を逸失する。
❌ 物事を気づく能力: 新しい発見や洞察が阻害される。
❌ 養分の蓄積: 新たなアイデアのための背景知恵が育たない。
❌ 信頼と疑念の構築: 特定の著者への信頼や他者に対する健康的な疑念を見失う。
❌ ジョークと境界線（エッジ）: すべてを滑りやすく、危険な境界線を見過ごす。
❌ 思考方法: 根本的な思考のプロセスを放棄する。

あなたは世界と働くことではなく、恣意的なロボットのために働いております。学習していないだけです。

結論：LLM は暴走しないが、それは「安全」ではない

ツールは「ミスマリグメント（不適切な使用）」を起こすことはなく、「暴走」も「containment から脱出」も「共謀」もしません。しかし、「あなたがどう扱うかによる」というのは嘘です。

LLM に固有の特性である自動化には、ツールとは明確な差異が存在します。この違いを無視し、LLM を単なる道具と錯覚することは、甚大なリスクを伴います。

LLM は操縦されるものではありません。
LLM は自動化です。
真の成長は、「手中に握り」、統制しながら行うことで生まれます。

『AI はツールではない』リッチ・ヒッキー著