2026/07/16 20:59
LLM の批判に同調しつつも、私は依然として LLM を活用し続けています
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
急速な AI の進展にもかかわらず、高品質な仕事の作成において人間が不可欠であることは、機械では本物の人間の知的努力を代替できないためである。この論点是、2026 年 7 月における Berlin で開かれた Local-First Conf（2026 年後半の 6 月〜7月初旬）後、@adamwiggins.com によるスレッドで浮き彫りにされた。該イベントには Armin Ronacher、Martin Kleppmann など著名な話者が登壇し、LLM の限界に関する批判的なセッションを聴講中に多くの参加者が Claude Code を生で使用していたことが特徴的である。Earendil の創設者である Armin Ronacher はステージ上で「人間が最適なエージェントである」と強調し、生成されたすべてのプルリクエストを自動でほぼ閉じることで人間の検証を確保した。
これを執行するために開発者は以下の厳格な技術を用いる："/grill-me"インタビュー（実行前に LLM に絶え間なく質問を行う）と"Ralph Wiggum loops"（サブエージェントを使用し、文脈への負荷をかけてハルシネーションにより弱点が発露するまでテストを行う）。さらに高度な方法として「ハルシネーションを設計のテストにする」という手法があり、LLM が API や UX を予測することで期待されるデザインを安価に検証する。業界は既に分岐しており、Zig や Gentoo などのプロジェクトが AI 生成のプルリクエストを拒否している—これにより機械か人間かが区別できなくなる場合の問題性が浮き彫りになっている。その結果、将来のワークフローでは厳格な検証プロトコルが必要となる。究極的には、著者は LLM をブレインストーミングや文法チェックにのみ使用することを提唱しており、高品質な入力を人間の準備のために膨大なトークンを消費し、すべての最終的な記述テキストが人間から発信されるようにして低品質な「slop」を防止する。
本文
【2026 年】LLM とのディソナンス：批判しながらも使い続けるエンジニアのパターン
2026 年 7 月 15 日付の記事を整理したものです。著者は LLM（大規模言語モデル）に対し強い懸念を抱く一方で、それを頻繁に使用しており、その間で感じる「不一致（ディソナンス）」について考察します。ベルリンで開催された Local-First Confでの体験や、具体的な活用パターンが記載されています。
1. ディソナンス：批判と使用の矛盾
多くの聡明なエンジニアも同様に、LLM を使いながら批判的な気持ちを抱いています。
現状の状況
- 批判者の同意: LLM に対する主な懸念（著作権、環境負荷、倫理問題、マネーゲーム、バブル崩壊など）にほぼ全論点で同意しています。
- 実際の行動: それでも頻繁に LLM を使用し続けるという不一致を感じています。
- コミュニティの反応:
- 「Local-First Conf」のような会議でも、スピーカーは批判的発言を行い聴衆から拍手を浴びますが、その中で「Claude Code」を開いている人がいます。
- Armin Ronacher（Flask 創設者）のように、AI が生成した大量の PR は自動で閉鎖し、「人間性が際立つように」運用しています。
なぜ批判なのか？（主要な懸念点）
- 信頼性の欠如: ネット上不特定多数への信頼はできないため、LLM 経由の低品質な投稿（スロップ）が増えるとオープンソースを滅ぼす可能性があります。
- 新人育成の崩壊:
- 先輩が若手のコード品質を判別できず、レビュー意欲が低下しています。
- タスクは完全に LLM にアウトソーシングされ、新人採用の必要性が見失われています。
- 地政学的リスク: 中国・米国などの技術規制により特定のモデルが使えなくなる可能性があります。
- 思考のすり替え: AI との対話を通じて、人間の意見が AI の政治信条に染まる危険性があります。
2. LLM を使い続ける理由と利点
LLM を「排除する」のではなく、「制御・形成し」として活用することで、信頼を得ていけばメリットは大きいと結論付けています。
ローカルファーストの重要性
- セキュリティ: オープンウェイトモデルをローカルで動かすことで、政府による遮断や価格暴騰から守れます。
- 持続性: 大企業のバブルが弾けても、自前のハードウェア上のモデルは存続し、プログラマーの拠り所になります。
役割と限界の理解
- 放大鏡としての機能:
- LLM は思考や構造を**増幅（アンプ）**するだけです。
- 「AI スロップ」か「優れたテキスト」かの差は、人間の思考が入っているかどうかです。
- 思考そのものをアウトソースしてはいけません。
- 信頼の獲得:
- 「Fable 5 に実装させるよう頼んだ」という言葉はテックブロークですが、真意は人間が思考し、AI で加速させたことです。
- 朗読しても恥じる気持ちがないテキストのみを「優れたテキスト」とします。
経済的な現実
- コスト削減:
- トークン単価が高騰したため（2026 年 6 月頃）、Fable は極めて限定的に使い、コード実行には安価なモデル（GLM 5.2 など）を利用しています。
- OpenRouter を利用することでコストをコントロールしています。
3. LLM を安全に活用するためのパターン
「受容性」という名の安易な使い方を避け、「grill-me」スキルや具体的なワークフローで質を保っています。
パターン①: /grill-me
スキル（徹底的な確認）
/grill-me単に指示を出すのではなく、人間が理解するまで掘り下げて質問します。
- 共有理解の確認: 意思決定ツリーを歩きながら、依存関係を一つずつ解決します。
- 質問の精度:
- 一度に複数の質問は混乱を招くため、一つずつ問いかけ、フィードバックを得て進めます。
- ファイルシステムやツールから探索できる場合は、「聞く」のではなく「確認」します。
- 行動止めの原則: 「共有理解に至ったことをあなたが（人間が）確認するまで」LLM に指示を出しません。
パターン②: 「3 つの文章」ルールと事実確認
LLM の出力を全て読むのをやめ、「雰囲気」でチェックしますが、核心部分は厳しく確認します。
- 問題記述:
- 問題を**「Problem」「What we are shipping」「What we are not shipping」**の 3 つの文章に簡潔にまとめるよう強制します。
- これを人間が読めるように設計するため、LLM の出力も質が高まります。
- コードレビュー:
- 1,000 行レベルでも「LGTM」を出しますが、100 行レベルには細かなコメント（15 件など）を残します。
- PR 説明では「可读性と簡潔さ」を重視し、スクリーンショットで動作を示してレビュアーに自信を持たせます。
パターン③: AI スロップとの闘い（対抗戦略）
- 小型エージェントの配置:
- 膨大なコンテンツ生成には小型のエージェントを割り当てます。
- コンテキスト破壊ループ:
- LLM を固定し、新たなサブエージェントに「文脈を無視して架空の問題を発見せよ」と命令します。
- これにより LLM の思考停止（同意しようとする癖）を逆手に取り、弱点を利用できます。
- 期待値推測テスト:
- 実際の API/UX を実装する前に、LLM に「何が欲しいか」を推測させます。人間がその推測と合致するか低コストで検証します。
パターン④: My Intuition-Probe スキル
- デザインを盲検状態でコミットさせ、実際のものを実行する前に実行可能な状態にします（gist で公開可能）。
4. 最終的な結論：思考は置換されない
LLM は強力なツールですが、人間の本質的な思考能力は置き換えられません。
専門家の役割
- 「良い」vs「極悪」の判別力:
- その分野を熟知している限り、LLM を使って良し悪しを学び、品質を保てます。
- 未知の分野で LLM を使うのは「スロップ生産体」になるリスクがあります。
- TDD 等の手法への影響:
- 「AI スロップ」というのは単なる技術問題ではなく、人間の意見の違いの問題です。
- LLM はその意見を大げさに増幅しますが、方向性を示すのは人間です。
あなたにも
- 一人ではない: この「批判しながら使う」ジレンマは多くのエンジニアが抱えています。
- 真の活用: LLM が思考を置き換えるのではなく、豊かにするツールとして使いこなしてください。
「テックブロークが言うこと」と「人間が考えること」の違いを見極めてください。その違いこそが、新しい時代のクリエイティブな活動を支えているのです。