AI に文章生成を任すべきではない 3 つの理由と、その例外について

私はブログ記事、研究レポート、メモ、深いメール、小説、あるいはアイデアや論理、分析といった本質的な思考を伝えるテキストにおいて、AI に文章を書かせることをほぼ決して推奨しません。

たとえ極めて詳細な指示や文脈を与え、生成された文章を人間が編集したとしても、この基本スタンスは変わりません。その理由は以下の 3 つに集約されます。

1. 執筆プロセスこそが思考プロセスの本体であるから
2. AI の出力には気づきにくい曖昧さと誤りが密集しているから
3. 明示的に表明せずに AI を使うことは、読者を欺く礼儀のない行為であるから

---

AI 活用への前提と限界

まず前提として、私は「AI 嫌い」ではありません。研究や執筆プロセスの他の部分（音声文字起こし、データ分析、情報検索、ブレインストーミング、下書きへのフィードバックなど）で AI を使うのは理にかなっています。また、人間が意図的に受け入れ・拒否した上で行われる校正や段落再構成も問題ありません。

問題は、「文章そのものを書くこと」を AI に任せる点にあります。

• 利点は明確ですが：省力化と高速化は確かにあります。
• デメリットは重大です：AI による執筆の欠点を相殺するには、それ以上のリスクがあると考えられています。
• モデルの進化について：現在および近未来のモデルについては上記が言えます。将来的に思考プロセスまで任せるレベルに達したとしても、執筆だけでなく「思考作業そのもの」を AI に委ねることへの懸念は残ります。

執筆は思考の具現化である

研究や執筆の目的は、重要な問いについて正確な信念を持ち、それを聴衆に伝えることです。最も優れた方法の一つが「執筆」です。

ポール・グレアムの見解

「あるテーマについて書くこと……往々にして、自分がそれほど良く知っているものだと思っていたよりも実際には理解が浅いことを示してくれます。アイデアを言葉に起こすことは厳しい試練です。」

• 書いている最中に浮かび上がるアイデア：エッセイの半分ほどのアイデアは執筆中に生まれます。
• 思考の深化：書くためには、まず自分が何を言いたいか、証拠や論理を検討し、信念に達しなければなりません。

クララ・コリアーの見解（Patrick McKenzie のポッドキャストより）

「アウトラインから文章化、さらに単一の文に至るまで……執筆プロセスのどの段階においても、私は思考を停止させることなく、自分の考えを変え続けています。」

• 人間の特徴：トランジションが機能しないことに気づき、「アプローチ自体が間違っている」と自問し直すことができます。
• AI の限界：アウトラインを与えても、「もしかしてアウトライン自体が悪いのかもしれない」と考えてくれることはありません。機械的に思考を停止させることはできません。

執筆プロセスとは思考プロセスそのものであることを、経験的な証拠で証明できると私は考えます。論理構造を整える行為こそが、議論の抜け漏れや研究の不十分さを発見し、倫理的責任を持つ人間として反対論や自らの主張の限界に気づくきっかけになります。

AI 生成テキストに見られる「微細な誤り」と「曖昧さ」

何かを書く際、単語選びや表現に関する多くの細かい決断が積み重なり、テキスト全体の明確さと正確さを生み出します。AI はこのプロセスを飛ばしますが、その結果として以下のような問題が発生します。

クエリ例：「AI チップの密輸について短いパラグラフを書いてください」

（Claude Fable 5 の出力に対する批判的分析）

クエリのポイント	AI 出力の問題点	具体的指摘
「輸出規制は執行力にのみ依存する」	曖昧な表現	「何かが明白（当然のように実行されない政策は効果薄い）」ことを示しているのか、示していないのか不明確。
"AI チップはコンパクト"	事実誤認・文脈欠如	密輸されるのは通常「AI サーバー」であり、製品を隠して関税逃れするのは稀である。他財物として再ラベル付けされるのが主流。
「広大なサプライチェーンが有利」	理由不明確	なぜそれが魅力的か？（麻薬密輸業者へのアクセスなのか、中間地点でのまとめ買いなのか）定義されていません。
規模の推計「数万〜10 万個」	誤解を招く表現	低い推定値は間違いに近く、本当の数に近いのは上位推定値（数十万個）。「高級チップ」という用語も定義不明で誤解を生む。
「有能な AI システムのトレーニングに十分なリソース」	情報価値なし	チップ自体が重要なのは事実だが、「有能なシステム」を強調する必要がある理由が不自然。むしろ弱いシステムの方が少量リソースから恩恵が大きいはず。
"数百億ドル規模の取引を警視"	具体性欠如	数値を示すべきである。BIS の予算と人員は既知であり、文脈化すべき。また「問題が小さい」の意味（重要性か労力か）が不明確。
「米国 AI ポリシーの中核的な支柱を空洞化」	称賛の光に過ぎない	情報価値のない大げさな表現。

• 結論：テキスト中にこのような問題は一つや二つあっても問題にはなりませんが、AI による執筆は不要な曖昧さや微細な誤りが非常に密集しています。
• 文脈依存：書き手にメモやアウトラインを与えても、この傾向は改善されません。

エリック・シュヴィツゲベルの指摘：「人間は LLM より良く考える」

人間の専門家は、自分自身に自覚していない繊細さや感受性を反映させる言葉選びをします。

• 専門家の文章は、言語モデルの出力よりも、その分野への感受性が高いです。

読者の反論への回答

「もちろん私は LLM の出力を送付する前に読み通していますし……テキストはあなたの専門的なベストジャッジメントを反映しています。」

しかし、私はこれに同意しません。「読み込むこと」と「生産的にテキストを生み出すこと」には巨大な認知上の差があります。

1. 受動的 vs 能動的：
   • テキストが既にある（紙の上に置かれた）場合、近似された言葉で十分だと受動的に受け入れられやすい。
   • 新規文章を生成するには、努力のある能動的な単語選びが必要だが、AI はこれを回避する。
2. 感覚の欠如：
   • 人間（専門家含む）は全ての因子に対する感覚が良好ではありませんが、AI はそれを感じ取ることができません。
   • 表現をわずかに変えるだけで、異なる信号が送り・受け入れられますが、AI はその微差を理解していません。

さらに酷い真実：説得力のある曖昧さ

AI は単に誤りを含むだけでなく、それをほぼ最大限に説得力のある方法で行います。

• 読者が AI が書いたことを「ポジティブに知っている」場合でも、AI は通常、自分が知らないことを伝えないで止まります。
• 代わりに、真実でありうる程度に曖昧で無意味な内容や、「聞こえては真実だが実はそうでない」内容を生成します。
• 人間との違い：人間は気づきやすい形で間違いを犯しますが、AI は見逃されやすい「説得力のある誤り」を生み出します。

暗黙の契約と信頼の問題

テキストを公開（ブログ）、共有（同僚）、提出（出版社）する際、読者は著者のテキストに思考が入れられていることを期待しています。これは「読者が注意を提供し、著者が情報やエンターテインメントを返す」という暗黙の契約です。

「LLM が生成できる私の執筆バージョンは、私が追加できる何かを常に欠いています……私はそれらが他処では手に入れない何かを提供しています。」

• 信頼の崩壊：AI による執筆の曖昧さや誤り、そして著者の思考投入量の不明瞭さは、この契約を違反します。
• 結果：テキストが AI で書かれていることに気づくと、直ちにそのテキストと著者に対する信頼を低下させます。

結論：AI を使った執筆は礼儀に欠ける

上記の理由から、AI で書かれたテキストを宣伝したり、誰かへ下書きを送ったりすることは、礼儀に欠けます。 これは「非常に乱雑に書かれた下書きを誰かへ送ることに隠れてしまう」ようなものです。

• 欺瞞の問題：明確なラベル付けを行わない限り、読者はあなたのテキストが慎重に検討された独自の信念であると期待します。これを欺くことになります。
• 例外について：出力が AI 作成であることを明確に示すことで礼儀や欺瞞の問題は回避できますが、それはほとんどの人がやりたがらないことです。

---

よくある質問（Q&A）と私の回答

Q: テキストの中に、明確にラベル付けされた AI 生成の出力を含めることはできないでしょうか？

A: はい、ほぼ問題ありません。

• 用途：浅い調査を行う場合や、「AI はこう言っています」と引用して特定の主張を検証する時間を省きたい場合などに便利です。
• 重要点：出力が AI 作成であることが明確に表示されており、読者がそれを適宜評価（あるいは評価しない）できることです。

Q: テキスト全体にこの手法を使うことはできませんか？

A: いいえ、それはほぼ決して良いアイデアではありません（少なくとも他人が読む場合）。

• 理由 1：自分で書いた場合の結果よりも、はるかに悪い可能性が高いです。
• 理由 2：ラベルを付けると読者は（正当に）そのテキストを読まなくなります。
• 理由 3：自分のみを読む場合でも、上記のセクションで説明された「執筆プロセスとしての思考」の利点を失います。

Q: 英語が母語ではない方が、AI を使って英語を書くことは許容されますか？

A: 状況によりますが、私は否定します。

• 公開禁止：公開せずに行うことすら推奨されています（上記の理由のため）。
• 翻訳のみ可だが開示が必要：自国の言語で書いたテキストを AI で翻訳することは許容されるかもしれませんが、それを必ず開示すべきです。AI は草稿作成より、翻訳における明確さと精度維持において優れています。

Q: 利害関係が高く、執筆加速のために AI を使う必要がある場合（例：政策メモ）はどうでしょうか？

A: 私は速度の大幅な向上には期待しません。むしろ品質への妥協によるものだと考えます。

• エッジで品質を犠牲にしてはならない：DC はすでに誰もほとんど読まないレポートや議題簡易書で溺れています。
• 必要なのは：より正確でより熟考された分析です。それは重要なトピックにおいてのみ効果があります。

---

まとめ

AI に文章生成を任せることは、思考のプロセスをショートカットし、微細な誤りを埋め込み、読者との信頼関係を損なう行為です。執筆とは思考の具現化であり、そこには人間の能動的な選択と責任が不可欠です。