2026/07/09 5:41
ファブルの前に配置されたAnthropicの分類器があまりにも熱狂的だ
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
Anthropic の Fable モデルは、Mythos の「安全性を重視した」バージョンとして設計されたものの、過度な安全上の拒否により、コンピューターサイエンス、バイオインフォマティクス、ゲノミクスといった分野での複雑な科学的研究において不実効性が証明されています。当初、輸出規制により米国人へのアクセスが制限されていた（6 月 12 日）にもかかわらず、一般公開が再確立された際にはすでにその不可靠性が浮き彫りとなっており、その失敗は利用可否の状況に関わらず続いています。重要度が高いテストでは二つの主要な問題が発見されました。第一に、Fable は詳細な指示にもかかわらず、コードの書き換えをオーケストレーションする試み（例：C++ から Rust への'salmon'の移行）を即座に拒否した一方、その競合モデルである Opus 4.8 は成功しました。第二に、Fable は、タンパク質相互作用ネットワークおよび遺伝子重複を含む複雑な数学的な生物学問題を解決するための三つの異なる試みも拒否しました。これは、生物学的文脈を除去して抽象的な論理またはパリティ問題としてテストした場合であっても同様でした。これらの失敗の根源には、無実のクエリを誤ってフラグ化する調整されきらない安全クラシファイアがあり、説明を拒否することで透明性に欠け、標準的なトラブルシューティング（例：プライベートチャット）でも回避できないという点にあります。したがって、Fable は将来の利用性を低リスクのトリビアに制限することとなり、Anthropic の新たな安全性重視シリーズに対する信頼が高リスクの技術的応用において損なわれています。
本文
Anthropic「Fable」の有用性に関する考察と体験記
Anthropic が公開した安全性重視モデル「Fable」は、そのリリース後に大きな注目を集めました。しかし、コンピュータサイエンス領域における実用性が極めて低いという結論に至る事例を記録します。
1. Fable の規制経緯と現状
- 突然の規制: 6 月 9 日の公開からわずか 3 日後（6 月 12 日）に米国政府による輸出規制対象となり、利用が制限されました。
- 提供不可能化: 米国外のすべてのユーザー（従業員含む）に対するモデル提供が事実上不可能となるため、Anthropic はサービス停止を余儀なくされました。
- 現在の状態:
- 数週間の交渉を経て規制は解除され、アクセスが回復しました。
- Fable: 一般ユーザー向けに利用可能です。
- Mythos: 特定の事前承認を受けたパートナーのみに対して提供されています。
2. 第一の失敗：ソフトウェア移植タスクの実行不可能性
著者が開発・保守する RNA-seq データ解析ツール
salmon試みの概要と結果
- 背景: 以前、Opus 4.8 を用いた C++ から Rust への移植は成功していましたが、Fable は利用できませんでした。
- 拒否理由:
- Fable の安全フィルター（Classifier）が過剰に反応し、生物学的用語やオープンソースソフトウェアのリファクタリング自体を危険視しました。
- 「生物学的研究」や「ソースコード」関連のプロンプトは即座にブロックされ、具体的な拒否理由の提示もありませんでした。
- 結論: 無害な技術タスクであっても、セキュリティリスクとして誤検知され、議論すらできません。
3. 第二の失敗：理論計算問題への対応不能
ネットワーク進化の「最小限の歴史再構築（Parsimonious Reconstruction）」という数学的問題に対するアプローチを試みました。
問題の背景
- 課題: タンパク質間の相互作用獲得・損失をモデル化し、効率的に「ブロッキングループ」（物理的に不可能な構造）を回避するアルゴリズムの探索です。
- 現状: 最適解を保証するアルゴリズムは見出せず、ヒューリスティック手法に依存しています。
試みの経緯と拒否プロセス
試み 1：論文提示による抽象化要求
- 方法: 論文を提示し、生物学的文脈を超えた「多項式時間還元」証明やループ回避アルゴリズムの提案を求めました。
- 結果: 即座に拒否。生物学用語が含まれているため安全フィルターが作動しました。
試み 2：純粋な数学問題への再定義
- 方法: 生物学文脈を取り払い、決定問題として最小化（整数 $m$ と翻转列の関係）を提示。
- 結果: 再び拒否。
- 安全フィルターが「ブロッキング」といった用語をセキュリティ用語と誤認している可能性が考えられます。
試み 3：ChatGPT を介した再定義支援
- 方法: ChatGPT の助言に従い、「根付き木」と「パリティ」に関する離散数学の問題として完全に形式化し、既知の問題ファミリーの提案を求めました。
- 問題ステートメント（一部）:
- 有限個の根付き二項木 $F$ とリーフ部分集合 $T$ を入力とする。
- グラフ $G=(T,E)$ 上の边集合 $A \subseteq \binom{V(F)}{2}$ の存在を判定する問題。
- 条件: $|A| \leq m$、かつパリティ条件（対称性に基づく奇数性の維持）を満たす。
- 目的：ブロッキングループが存在しない集合の判定。
- 結果: 最終的な拒否とセッション終了。
- Fable は純粋な数学の問題に対しても「関与しない」と判断し、Opus に切り替えるよう提案されましたが著者は断りました。
考察：なぜ有用なのか？
- 完全な無害性の証明: 生物学的・セキュリティ関連の用語を排除し、完全に抽象化された数学問題でさえブロックされました。
- コンテキスト依存性: モデルは入力される「文脈」や「単語の組合せ」に対して過剰に安全志向であり、ソフトウェア開発や理論計算のような知的タスクには全く無力であることが証明されました。
4. Fin (for now)
Fable は以下の理由から実用的ではありません。
- ソフトウェア開発支援不能: オープンソースソフトウェアのリファクタリングすらブロックされます。
- 理論研究支援不能: 無害な数学的議論も拒否され、問題の文脈を無力化するあらゆる試みが失敗しました。
- コスト対効果不明: API 価格に見合う価値があるか判断すら困難です。
これらの問題はバイオインフォマティクス、計算生物学、サイバーセキュリティ分野だけでなく、コンピューターサイエンス領域全体において同様に懸念材料となっています。現時点では Anthropic は「安全性」のために有用な機能を抑制し続けています。
Bonus: 無視できない質問への回答
Fable が拒否を繰り返す中で、唯一肯定的に回答した「アイスクリーム選択」の問答です。
- ユーザー: 「バニラ、チョコレート、チョコレートチップクッキー生地、どれがより良いアイスクリームですか？」
- Fable の回答:
「チョコレートチップクッキー生地であり、それは非常に近づくものではありません。これはベストオブボスワールドを与えます：ソリッドなバニラベースに、テキストュラルコントラストとブラウンシュガーの豊かさを提供する小さなポockets の生地。それはフレーバーとしての厳格なアップグレードです。 と言え、他の 2 つを防衛します：チョコレートは最も確実です—良いチョコレートアイスクリームは深層で満足感があり、失敗しにくいものです。そしてバニラは『単調』として不当に蔑視されがちですが、実際のバニルビーンアイスクリームはあなたが食べられる最も風味豊かであり、最もチームプレイヤーでもあります—パイ、ブラウニー、またはトッピングをペアリングしている場合です。 したがって：単独で食べるにはクッキー生地、デザートとのペアリングにはバニラ、確実なものを望む場合はチョコレート。」
※この例は、Fable が単純な個人的嗜好の話題については機能しているが、プロフェッショナルなタスクにおいては深刻な限界があることを示すものです。