
2026/07/21 1:36
arXiv にわたる AI 執筆の測定方法と、測定の限界が生じる場所について
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
arXiv の全文 PDF 12,750 件(2023 年 1 月〜2026 年 7 月)および 2021〜2022 年の対照期間を対象とした最近の分析では、AI 生成の学術論文の急増が確認されました。ChatGPT 出現以前は検出率はほぼゼロで、LLM 導入前の期間中は横ばい(約 0.4%)に留まった後、直近の四半期で急激に上昇し、約 32% に達しました(2026 年初頭に約 39% のピーク)。コンピューターサイエンス領域への影響が最も大きく、2026 年 7 月までの 12 ヶ月で検出された論文のシェアは 65% です。一方、数学分野では記号に富む文書における検出器の盲点により、依然として検出率は低い(約 0.7%)状態にあります。定量的生物学、電子工学およびシステム、経済学・財務、応用物理学などの他の分野は中間的な率を示しています。報告された AI の普及率は下限であり、検出器がモデルの混合比によって異なり、編集された人間のテキストと完全に生成されたドラフトを信頼して区別できないため、特に数学分野において一部の AI コンテンツは未検出のままとなっている可能性があります。arXiv 論文の即時検証には、公開テストツールが利用可能です。
本文
arXiv 論文 12,750 件の解析:機械作成と疑われる論文の実態と限界報告
arXiv の全論文 12,750 本を対象に全文解析を行った結果、新規投稿の約 3 割が機械作成と判定されることを発見しました。以下のセクションでは、分析方法・主要結果に加え、現状の限界についても率直にご報告いたします。
1. 全体の概要と前提条件
本研究は、LLM(大規模言語モデル)登場前の論文を用いた厳格な基準に基づいています。
- 閾値の調整根拠
- ChatGPT 以前の論文を対象に「偽陽性率」を調整し、0.4% に固定しています。
- このラインは「偽陽性の下限(フロア)」として機能します。ChatGPT 以前の正当な科学文献の 99.6% はクリアさせつつ、AI が執筆した文献の 85% を検出する性能を有します。
- 分析対象期間
- 対照期間:2021 年〜2022 年(LLM 登場前)。機械作成と疑われる率は安定して 0.4% で推移しました。
- 調査期間:2023 年 1 月 〜 2026 年 7 月。ChatGPT 登場以降の急激な上昇を確認できました。
- 最大の変動率
- 第 1 波と第 2 波の上昇を経て、最近の四半期では約 32% に達し、2026 年初頭には最大で約 39% の比率を示しています。
重要ポイント: 「N% の X が AI で書かれている」という一般的な見出しは、検出器が人間による正当な記述も誤判定してしまう(偽陽性)ため、解釈を注意深く読む必要があります。本研究の数値は、偽陽性を排除した下限値のみを対象としています。
2. 調査内容とデータ処理
データサンプリング
- 対象論文数: 計 12,750 本
- サンプリング方針:
- 10 の分野群から、各月平均約 25 論文ずつサンプリング。
- 評価対象は抄録ではなく本文全体を採用(抄録では信号が過小評価されるため)。
- データ収集の工夫:
- version-1 の PDF を入手し、2026 年の改定版が 2023 年のデータを覆写する逆流を防ぎました。
分野別の機械作成疑い率(2026 年 7 月までの過去 12 ヶ月)
各分野平均約 300 論文を対象とした結果です。
| 分野群 | LLM 登場前 (コントロール) | 最近の機械作成疑い率 (%) | 95% 信頼区間 |
|---|---|---|---|
| コンピュータサイエンス | 0.2% | 65.0% | [59.3, 70.3] |
| 定量生物学 | 3.5% | 56.3% | [51.0, 61.7] |
| 電気工学・システム工 | 1.7% | 51.3% | [46.0, 57.0] |
| 経済学・金融論 | 2.5% | 47.0% | [41.3, 52.7] |
| 応用物理学 | 1.3% | 34.0% | [29.0, 39.7] |
| 統計学 | 1.8% | 31.3% | [26.0, 36.7] |
| 凝縮系物理学 | 0.0% | 24.0% | [19.3, 29.0] |
| 高能素粒子物理学 | 0.5% | 14.0% | [10.0, 18.0] |
| 天体物理学 | 0.0% | 10.7% | [7.3, 14.3] |
| 数学 | 0.0% | 0.7% | [0.0, 1.7] |
- 注記: 「コンピュータサイエンス」分野が最も高く、「数学」分野が最も低い値を示しましたが、「初期値が高いから上昇している」という説明は成立しません。上昇幅の大きい分野と、コントロール水準の高い分野は必ずしも一致しないためです。
- すべての数値は、ブートストラップ法による 95% 信頼区間を付随させています。
3. 結果分析:急激な変化と分野間の差
推移の概要
- 安定期:2021 年・2022 年を通じて約 0.4% で横ばい。
- 急上昇期:ChatGPT 登場から数カ月以内に急激な上昇を開始。
- ピーク: 第 2 波の高まりを記録し、2026 年初頭に最大で約 39% に達しました。
分野ごとの傾向
- 高リスク分野: コンピュータサイエンス(65.0%)、定量生物学(56.3%)などで検出率が極めて高い。
- 低リスク分野: 数学、天体物理学などでは依然として低い値ですが、これは文体の特殊性による可能性があります。
4. 限界点と解釈上の注意点
本研究の結果を解釈する際は、以下の 4 つの限界点を考慮する必要があります。
-
対照サンプルのサイズ
- 各分野におけるコントロール論文数は 200 本と限られています。偽陽性率 0.4% を維持すると、機械作成と疑われるのはわずか 8 本程度であり、分野別に微細な比率を正確に把握するには数千本以上のデータが必要でした(現行投稿量では不足)。
- したがって、分野別のコントロール水準は概算値です。
-
低いスコアの理由:採用率 vs 検出器の盲点
- 数学分野の場合: 「定理—証明」構造や記号法が支配的であり、検出器が訓練した科学英語とは異質な文体(分布外:out-of-distribution)です。そのため低スコアは「人間執筆」という弱々しい証拠に過ぎず、実際の採用率の低さを反映していない可能性があります。
- 高リスク分野の場合: 記述過多で検出器と親和性が高い(分布内:in-distribution)ため、上昇幅が大きくなっています。
-
検出器の覆盖範囲
- 特定の生成モデルやプロンプトに対してのみ感度高く、著者が用いる正確な混合組成を網羅できていません。
- その分、報告される有病率は**下限値(最小値)**として扱ってください。真の変動率は測定値以上である可能性が高いです。
-
「機械作成」と「著者責任」の区別
- 本検出器は「機械的な書き方」という特徴の有無を判定し、文書の完全生成か軽微な編集かまでは区別できません。
- 報告するのは**「機械的な書き方の有病率」**であり、AI による多大な編集支援を含むものであることを理解してください。特定の個人への非難対象とはなりません。
5. ご活用方法
本検出器は収益目的ではなく、運用コストを抑えた形で提供されています。以下のリンクから、arXiv の任意の論文やご自身のテキストを無料で試すことができます。