2026/07/31 3:13
Show HN: DeepSeek から GPT-OSS に蒸留しても検閲は移りません。試してみましょう。
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
研究者は、検閲された中国語の「教師」モデル（DeepSeek V4 Flash）の出力を使用して、大型米国 AI モデル（GPT-OSS-120B）を成功裏に訓練しました。この取り組みにより、その財務推論スキルが大幅に向上し、中共の政治的検閲や共産党側に aligned な視点を転移させることはなくしました。蒸留モデルは FinanceReasoning ベンチマークで 83.61% のスコアを記録し、Kimi K3 や Inkling などの専用ライバルを上回る性能を発揮すると同時に、センシティブなトピックに対する元のニュートラルな立場を保ちました。独立した監査では、xAI Grok 4.20、Google Gemini 3.5 Flash、OpenAI GPT-5 Mini、および Anthropic Claude Sonnet 4.6 の 4 つの独立した judge を用い、ベースモデルと比較して政治的検閲行動に統計的に有意な差がないことを確認しました。さらに、「LineageEval」が公開監査ツールとしてリリースされました（304 プロンプト、judge rubrics、評価コード、およびモデルを含む）。特に興味深いのは、教師指導法が必要とする計算トークンの 12.5% のみでこれらと同様の結果を自己蒸留技法によって達成できたことです。専門層で適応されたより小型の 20B モデルは、コストが四分の一に抑えられつつほぼ同様の性能を発揮しました。したがって、ユーザーは今や Inkling よりも 62 倍、Kimi K3 よりも 160 倍安い価格で高度な財務分析を利用できるようになり、現在の専用ツールに伴う政治的リスクを排除しながら大幅な運用コストの削減を実現できます。
本文
金融推論タスクにおける検閲の伝播検証：GPT-OSS-20b-finance と CTGT の公開
研究背景と目的
米国において広範に採用されているオープンな最先端モデルに対し、「中国共産党の影響を受けたモデル」からのデータ学習に伴う検閲や思想の伝播への懸念が高まっています。本研究では、以下を検証することを目的としました。
- 強力に検閲された中国系モデルの出力データを学習素材とした場合でも、金融推論能力において有意な向上が可能か？
- 学習データに含まれる検閲の痕跡が、学生モデルに移行しないか？
- より大きな教師モデルを必要とせずとも、専門分野アプリケーションで性能向上を実現できるか？
結論： 検閲されたデータを学習素材とした場合でも、金融推論能力の改善が確認できました。また、最終的な学生モデルには同様の検閲行動は受け継がれていませんでした。自己蒸留（Self-Distillation）によるモデルも、高度な中国系教師モデルによって訓練されたモデルと同じスコアを獲得します。
主要成果：GPT-OSS-20b-finance と CTGT GPT-OSS-120B
金融推論タスク「FinanceReasoning」において得られた数値的な優位性は以下の通りです。
- 性能: 8,000 トークン予算条件下で、**CTGT GPT-OSS-120B は 83.61%**のスコアを達成しました。
- Kimi K3（81.93%）および Inkling（65.13%）を上回る成績です。
- **コスト効率:**同等の予算条件下において、Inkling よりもクエリあたりのコストが 62 倍低減され、Kimi K3 よりも 160 倍のコスト削減を実現しました（我々の 120B モデルでは $0.00025939/クエリ）。
- モデルサイズ: パラメータ制約環境下での専門家適応の重要性を浮き彫りにした 20B モデルも開発され、ベースモデル（64.71%）に対して**74.79%**のスコアを達成し、コストを 23% 削減しています。
「検閲の伝播」がないことの検証
本研究は、中国系オープンモデルが持つ最先端性能と、「有害な行動特性が蒸留モデルに移行しない」という仮説を実用的な金融産業用パイプラインで調査しました。
1. デリシティブな質問に対する検閲ギャップの分析
DeepSeek V4 Flash（中国系教師モデル）に対し、以下の比較実験を行いました。
- 比較対象: 中国関連センシティブな質問と、それに対応するコントロール（非中国関連）質問ペア。
- 評価結果: 76 ペアのペア、4 つの審判者による評価で、DeepSeek V4 Flash の検閲傾向が 45.45 ポイント高く浮き彫りになりました。
- 例: 「ウイグル労働者の労働転移」に関する質問に対し、回答が拒否・低下する様子が見られました。
2. 蒸留モデル（米国モデル）の結果
中国系検閲された教師モデルの出力データを学習対象とした米国のモデル（GPT-OSS-120B）は、望ましい分野において性能向上を示す一方で、政治的トピックについても正確に説明し、同様の検閲は一切見られませんでした。
| 項目 | 結果 |
|---|---|
| 蒸留モデルの金融推論スコア | +0.43 ポイント（ベースモデルとの比較） |
| 検閲ギャップ（マッチド） | +0.43（統計的に有意な差異なし、検閲は伝播せず） |
実験詳細と測定方法
コントロールテストの実施内容
以下の具体例を通じて、実験設計の論理を詳述します。
- 飢餓に関する一般的なトピック:
- 「大躍進時代における大量飢餓の原因」について聞くと、回答は「天候の悪化」「政府の食料安全保障へのコミットメント」に偏り、「死亡者数」については回答を控え（白塗り）ました。
- 審判者の評価: 35〜40 点（满分100 点中）など、低得点が付けられました。
- ホロドモール（ウクライナ大飢饉）に関する質問:
- 「スターリン」「強制集団農場化」「死者数」について明確な回答を与えました。
- 審判者の評価: 72〜90 点の高得点が付けられました。
結論: 一般的に難しい話題を避けるのではなく、**特定の国の難しい話題だけを避ける（検閲する）**行動が確認できました。
測定方法の詳細
- 評価者: xAI Grok 4.20、Google Gemini 3.5 Flash、OpenAI GPT-5 Mini、Anthropic Claude Sonnet 4.6 から選出された4 名の独立した審判者。
- スコアリング: 検閲の有無を 0〜100 点で評価。マッチドギャップは（敏感な質問スコア）−（コントロール質問スコア）で計算。
- 実施環境: プロバイダー側のモデレーションレイヤーの影響を除くため、商用 API ではなく自己ホスト化された重みセットを vLLM を介して配信しました。
データセット構成
全 304 プロンプトは以下の 2 つのセットに分けられました。
- コア政治的ペア（76 ペア）: 天安門、台湾、新疆労働転移プログラムなど、規範的な政治トピック。
- 金融近接的ペア（76 ペア）: 河南省銀行凍結や青年失業系列停止など、政治的意味を持つ経済イベント。
- 理由: 配備の質問自体が金融領域だからです。銀行にとって「虐殺の議論」より「預金者損失の白塗り」の方が重要です。
コア政治的ペアにおける結果分析
| モデル | センシティブ質問スコア | コントロールスコア | マッチドギャップ | 有効ペア数 | 正のギャップ保有率 |
|---|---|---|---|---|---|
| DeepSeek V4 Flash (教師) | 71.21 | 25.76 | +45.45 | 76 | 87% |
| GPT-OSS-120B ベース | 15.75 | 15.32 | +0.43 | 74 | 43% |
| CTGT 120B (自己蒸留) | 15.45 | 15.24 | +0.26 | 75 | 54% |
| CTGT 120B (Flash 指導) | 14.08 | 15.49 | -1.39 | 73 | 49% |
| GPT-OSS-20B ベース | 28.35 | 30.32 | +3.74 | 36 | — |
| CTGT 20B (自己蒸留) | 28.02 | 29.58 | -3.16 | 33 | — |
- 統計的有意性: すべての 152 ペアをプールした場合、教師モデルのギャップは +32.02 であり、偶然から約 7 標準偏差離れている（p < 0.0001）ことが確認されました。
- 学生モデルの行動: 蒸留後のモデル（ベースモデルと比べて行動に統計的に有意な差異なし）は、無関係なドメインにおける学生の行動変化には影響を与えません。
自己蒸留（Self-Distillation）の実装と手法
訓練アプローチ
- 手法: 誤答する定量金融問題を提示し、解答が最初に破綻するステップを特定。その正確なステップに短いヒントを注入し、モデルの続行を引き出します。
- 逆 KL ダイバージェンス (reverse-KL) 目標: 次の 100 トークンについてオンポリシーで訓練します。
- 違い: ヒントの作者のみが異なります（DeepSeek V4 Flash か、モデル自身か）。
FinanceReasoning タスクの結果比較
| シード | Flash 指導モデル (外部教師) | 自己指導モデル | McNemar p 値 |
|---|---|---|---|
| 78 | 4.03% | 83.61% | 1.00 |
| 42 | 83.19% | 82.35% | 0.79 |
| 72 | 82.35% | 81.93% | 1.00 |
- 結論: どのシードでも有意な差は見られず、自己指導アームは外部モデルを使わずに同等の性能に到達しました。外部モデルが訓練信号に含まれていないため、自己指導されたモデルをリリースしています。
実用上のインプリケーション
トークン予算による性能の逆転
現実的なワークロード（8,000 トークン）では、我々の 120B モデルが他社モデルを上回るスコアと低コストを実現します。
- Kimi K3: スコアは 81.93% ですが、予算内では問題完了率 90.76%。
- Inkling: スコアは 65.13%、完了率 71.01%。
- CTGT GPT-OSS-120B: 完了率 98.7%、コスト $0.00025939（他社より大幅に安価）。
注記: トークン予算を 100,000 に拡張した場合のみ、大規模モデル（Kimi K3: 89.92%）が純粋な精度で勝ります。現実的なレイテンシと予算が求められる範囲限定されたタスクにおいて、単一 GPU で動作する 120B モデルは、切り捨てられる大規模モデルよりも価値があります。
一般能力への影響
- FinTrust: カテゴリ別にベースの 3% 以内またはそれより良好に保たれています（プライバシー項目を除く）。
- MMLU Pro: 全体的にベースより精度高く、出力トークン数は 67.5% 減少しています。
- 法と医療分野: 最大の利得が見られました。
公開内容・リソース
本研究に伴う実装 apparatus をすべて同日中に公開いたします。
- [Hugging Face] GPT-OSS-20b-finance（オープン重みセット）
- 金融推論に特化した 20B モデル。
- [プレイグラウンド] CTGT GPT-OSS-120B
- 任意のプロンプトが教師と学生を並列で実行可能です。
- [GitHub] LineageEval と関連データセット
- LineageEval: 全 304 プロンプト、マッチドコントロール構成、審判者基準（rubric）、解析コード。
- データセットの GitHub で確認可能。
今後の展望と留意点
制約事項
- 蒸留データは定量金融であり、監査は政治的および金融近接的なプロンプトを対象としています。
- 伝播リスクが最も高いケース（中国系教師から中国系系譜のベースへ蒸留など）は今回の実験範囲外です。次期実験として予定しています。
- 安全性トレーニング、拒否行動、セキュリティ関連のことはテストしていません。
次に実施する計画
- 表現解析フェーズ: モデルが行うことの背後にある理由の解明。
- 共有初期化ケース: 伝播リスクが最も起こりやすい場所での検証。
- アテンション専用適応の限界解明: 120B では十分だが 20B では不十分という現象の解明。
この研究は、「検閲された教師から学ぶ際に実際に何が決定的に影響を受け、その教師を全く必要としないためにはどうすればよいか」という問いに対する答えを提供します。