ウィキメディアと AI：エリア・レブロが語る WIKIProject AI Cleanup の最前線と未来

プロジェクトの背景と発足経緯

• プロジェクト名: WikiProject AI Cleanup
  • AI 生成物を見出し、Wikipedia から取り除くためのボランティアによる取り組み。
  • 2023 年に正式に発足。創設メンバーはフランス国立情報科学センター（Inria）所属のレンヌ大学博士課程生、エリア・レブロ。
• 課題の発見 (2023 年 12 月頃)
  • Discord サーバーでの雑談中に、不自然な特徴を持つ記事を目撃。
  • 典型例: 「証言となる」「豊かな文化的遺産」といった陳腐な表現や、「結論」「なぜ重要か」といった定型セクションの出現。
  • これは当時の ChatGPT の特徴であり、Wikipedia 記事としては極めて異質で判別しやすい状態だった。
• 現在の取り組み (2023 年以降)
  • 当初は陳腐な表現が目立っていたが、現在はより微妙な機械生成コンテンツの検出に焦点を移す。
  • 新規ツール開発と、AI の役割に関する世界的議論を推進中。

AI 生成コンテンツの特定手法の変化

• 2025 年頃の傾向:
  • 特徴がより細かく、構造的な側面へ変化。
  • **「3 の法則」**や否定文の並列構造など、単体では意味を持たず蓄積されて初めて意味を持つ発話パターンを好む。
• 編集者の行動パターン分析:
  • 単なるテキスト確認に加え、著者の行動も観察。
  • 例：5 分間に数千語相当（約 5 記事）を投稿した場合など、AI の使用が疑われるケース。

引用と出典に関する懸念事項

• 架空の引用:
  • AI が完全に捏造された出典を生成するリスクがあったが、RAG 技術の進展により大幅に減少。
• 主要な問題点:
  • 実際の資料は見つかるが内容を誤って引用する事態。
  • 「実際に書かれている内容を支えていない出典」が極めて一般的になっている。

禁止政策への影響と AI 検知の実情

• 英語版 Wikipedia の新ポリシー:
  • LLM を用いた記事生成の禁止実施済み。
• Pangram（AI 検出企業）との協力による分析結果:
  • ChatGPT 以前の記事でテスト：偽陽性（人間作成を AI と誤判定）は一件もなかった（結果は保守的な下限値）。
  • 2025 年後半: 新規記事・ドラフトの約**20%**が AI 生成と検出。
  • 2026 年初頭: 割合は**15〜16%**に低下（減少傾向だが、原因はモデル進化か適応不足かは未確定）。

ウィキメディア財団の対抗策と技術的課題

• 既存の自動化ツール:
  • 他編集者が作成した AI 出典検証ツールの活用。
    • 機能：ページの出典を精査し、記述内容と引用源の整合性チェック。
    • 限界：ツール自体が AI モデルのため、すべてのケースで正確を保証はできないが、明らかなケースフィルタリングでは画期的。
  • Paste Check（財団開発）:
    • 一部の AI チャットボットから直接貼り付けられたテキストを検出・警告する機能。
• AI 企業の自己規制と限界:
  • Claude など一部のモデルは「Wikipedia 記事の作成禁止」と回答する場合がある。
  • ただし、商用モデルでもオープンウェイトモデル（制約回避調整可能）が存在するため、完全な解決には至らない。

政策効果とコミュニティへの対応

• 現在の状況:
  • 禁止ルールが機能しているか結論を出すには時期尚早。
  • ポンプト拒否や微減などの兆候は見るが、原因（モデル進化か初心者教育か）は不明。
• 主な課題者:
  • AI 生成コンテンツの大半は初心者編集者から提出されている。
• 解決策:
  • 歓迎メッセージ、編集ガイド、助言を通じてルールの可視性を高める取り組み。

未来像：「人間による百科事典」のアイデンティティと価値

• 禁止の理由の深化:
  • 当初は氾濫防止のための現実的措置だったが、現在は哲学的な次元へ発展。
  • Wikipedia は**「インターネット上で最後の良い場所」**であり、「AI スラップから自由であること」がアイデンティティの一部。
• 人間作成コーパスの重要性:
  • AI 企業は訓練データを求めつつも、Wikipedia が**「人間による執筆」**を維持している事実は複製不可能な資源。
• 将来の可能性:
  • 包括性向上のためには、「部分的に AI 生成」も許容できるか？
  • 「人間作成コーパス」としてのアイデンティティ維持と、「AI 支援オプション」の提供を両立する選択肢もある。

「ゼロトラフィック時代」への備えと相補的関係

• 検索エンジンの変化への懸念:
  • Google の流量消失や「AI オーバービュー」の台頭により、ユーザーが Wikipedia を「生きた編集可能なプラットフォーム」と認識していないリスク。
  • AI は Wikipedia 引用のみを表示し、貢献の可能性を伝えられない場合がある。
• ウィキメディア財団の対抗策:
  • 「帰属フレームワーク」の開発:
    • 被引用記事に対し、最終更新日時、包括性、編集者の懸念点、具体的な行動促しメッセージなどを AI に提示。
  • AI を通じた直接貢献の可能性:
    • 例：「AI が誤りを見つけたが、別の資料で検証可能ではないか？」といった形で、モデル自体を編集リクエストの起点にする。
• 展望:
  • Wikipedia と AI モデルは強い相補的関係へ進化。
  • 「排除すべき対象」から「整理作業支援ツール」へ、そして最終的には**「私たちが呼吸する空気」**（生活に不可欠なインフラ）へと変わる。