
2026/07/10 20:36
蓄積型エディティング
RSS: https://news.ycombinator.com/rss
要約▶
日本語翻訳:
大規模言語モデル(LLM)は頻繁に「蓄積的編集(accretive editing)」と呼ばれる失敗に見舞われます。これは、古いテキストに新しい修正を追加するのではなく、陳腐化した情報を置き換えるために失敗することを指します。Amazon Bedrock と LiteLLM を含むアップデートで観察された事例では、プロジェクトがもはや Amazon Bedrock をサポートしていないという指示にもかかわらず、モデルが Amazon Bedrock への言及を削除できませんでした。これは、LLM が入力を代替するのではなく結合すべき有効なコンテキストとして扱っているためです。「簡潔な記述」を要求するなどの標準的な解決策は陳腐化された事実を短い文に置き換えるだけではあり、これらを削除していないため失敗します。過去の過ちを積極的に消去する人間とは異なり、現在の AI アーキテクチャは履歴を含むすべての入手可能な入力のみに基づいて次の単語を予測します。「何をすべきでない」こと(例:「蓄積的編集を避ける」)と指示するだけでは、「何をすべきか」に具体的に指示することほど効果的ではありません。推奨される解決策は、プロンプトを 3 つのパートに再構成することです:古い陳腐化した情報、新しい正確な情報、そして「陳腐化したテキストを削除する」という具体的なコマンドです。モデルに対し、以前データを保存するのではなく置き換えるように明示的に指示することで、ユーザーは最初から正しく記述されたかのように読める出力を強いることができ、関連のない歴史的背景がないまま文書が正確に保たれます。
本文
累殖的編集とは及其びの解決策
累殖的編集の定義と実例
現象の説明
- 現状: 既に存在するテキストに対し、状況変化に伴い追加・修正を依頼します。
- 問題点: AI ツールは不要な旧情報をそのまま保存し、新しい情報をその後ろに無理やり追加(添記)してしまいます。
- 結果: ドキュメントが冗長になり、情報の質が低下します。
実体験に基づく具体例
以前あった文書で以下のようなアップデートが行われました。
元本文: 「本プロジェクトは Amazon Bedrock 経由での認証が可能です」
- 意図: Amazon Bedrock を削除し、LiteLLM に置換する。
- AI の生成結果(不良):
「本プロジェクトは LiteLLM 経由での認証が可能ですが、Amazon Bedrock のサポートを終了しました」
適切な対応と AI の傾向
- 好ましい做法: 旧情報の削除と新情報の置換。または、変更内容を別の場所(Changelog、公式アナウンス、目立つコールアウト)に記載し、本文を簡潔にする。
- AI の弱点: これらの適切な方法をほとんど採用せず、「累殖的編集」を行ってしまいます。
一般的な指示では解決しない
- 「より短く書くように」 → 旧情報は維持されたまま、単に文章が短くなるだけの不完全な修正。
- 「末尾装飾を避けてください」 → 累殖部分が新しい文句へ移動するだけで、根本問題は解決しない。
なぜこれが起きるのか?
人間との思考プロセスの違い
| 人間ドキュメント作成者 | 大規模言語モデル (LLM) | |
|---|---|---|
| 視点 | 他者(読者)のために書く。 | データとしての「入力」を処理する。 |
| 目的 | 陳腐化した記述を削除・置き換え。 | 過去の文脈と新しい指示の両方を含めることを予測。 |
| 焦点 | 「読者に対して真実を伝えること」。 | 「最も起こり得る出力」を選択すること。 |
- LLM は単語単独での頻出度から判断するため、「LiteLLM」と「Bedrock」という両方の単語を含む出力が生成されやすくなります。
- 根本的な問題としての性質上、場合によっては完全に防ぎようがない可能性があります。
解決策:AI の思考プロセスを再定義
完全な排除はまだ不可能ですが、以下のアプローチで改善できます。
不適切な指示の例
- ❌ 「累殖的編集を避けてください」
- ❌ 「古い情報を新しい情報へ足し合わせないでください」
- これらは効果的ではなく、AI に具体的に何をすべきかを伝えられていません。
推奨されるアプローチ
- 焦点: AI がどのように思考すべきかを明確に説明する。
- 指示のコア: 「陳腐化したテキストを保存しながら修正を追加する」のではなく、正確なテキストへと置き換える。
- 目標: 最終的なドキュメントは、当初から正しく書かれたような読後感を与えられる状態にする。
実装上の構成要素
AI への入力を以下の 3 つの部分で構成・指示します。
- 古い(陳腐化した)情報
- 新しい情報
- **「陳腐化部分は廃棄する」**という明確な指示
# 更新指示例 ## 入力コンテキスト - **旧情報**: "本プロジェクトは Amazon Bedrock 経由での認証が可能です。" - **新情報**: "現在、認証は LiteLLM 経由のみ可能です。Amazon Bedrock は非対応です。" - **重要なルール**: 【厳禁】旧情報を削除せず文末に追記しないでください。旧情報を完全に取り替えて出力してください。 ## 期待される出力 "本プロジェクトは LiteLLM 経由での認証が可能です。"