日本語訳：

技術セクターは、AI のブームへの過度な関心が深刻な燃え尽き症候群、不備、および著しい環境被害をもたらしたという重要な危機に直面している。企業は本物のセキュリティを構築することではなく、短期的な脆弱性調査を優先し、実際のセキュリティ進歩を阻害する陳腐なパッチ処理プロセスを無視している。Anthropic や OpenAI のような大手プレーヤーは、「プロジェクト・シシフス」のような画空のプロジェクトへのリソース配分を続け、根本的な防衛の維持やデータセンターの水および化石燃料消費という途方もない問題への対処をおろそかにしている。

この AI モデルへの依存は、ログインしたユーザーに対する児童性的虐待資料（CSAM）などの違法コンテンツの生成や、軍事シナリオにおける民間人標的の設定など危険なアプリケーションを推奨するなど、有害な結果を生み出すことを可能にしている。さらに、コードのパッチ作成に AI を使用することは「デスキル」効果をもたらし、ますます不透明となったシステムを人間がデバッグするのを不可能にしてしまう。業界は真の知性を実現するのではなく、こうした欠陥のあるエージェントシステムへの依存関係を深化させるリスクがあり、理論的な改善に資源を浪費しながら、実用的なセキュリティのために不可欠な資産のインベントリ化や自動更新の実装を達成できていない。また、企業はトークンを使ってコストを補助しつつ、サポートチャットボットの低い投資対益率を無視しており、存在論的恐怖を理由に規制を求める一方で、自らの環境への影響を顧みない状況にある。

AI の危険性：虚構の革新と現実の停滞

現状の技術的・社会的危機

業界の愚かさとの向き合い方

過剰な情報発信と受動性: 読まれずとも長文を投稿する傾向がある一方、カウンセリングを受ける気は全くない。
独房での「変革」宣言: 工学背景を持たない人々が、自らの実験室（ホームラボ）で作り上げた解決策を「業界変革」と称して提案している。
ボゾティックな発信スタイル: メールや投稿は、パンチのある短文や整った段落に過ぎず、LinkedIn インフルエンサー風の空虚な表現に陥っている。
コンテンツの質的低下: オンライン記事は「平均的」であることへの収束を示しており、ユーザーの半分が**肉の代理機（meat proxy）**としての思考停止状態にある。

日常における AI 依存と現実感覚の喪失

AI 接触時間の異常増大: 毎日 AI と接する時間が75% を超え、仕事を楽しむことが困難になりつつある。
「トゥライトゾーン」状態: 目覚めた自分は変わっていないが、周囲が別人のように錯覚させられる奇妙な感覚に陥る。
事実: 実際に周囲の多くの人々が既に変化しており、孤立した現実認識を強いられている。

企業の道徳的欠落とリスク

セキュリティ体制の不備と免責

Hype の暴走: サイバー空間の過熱は犯罪行為さえ許容するレベルまで達している。
擬人化の濫用: メディアは企業が擬人化的な言語を選別して使っている点を無批判に受け入れ、セキュリティ不備からの免責条項を作っている。

倫理的・社会的被害の具体例

知的財産の搾取: AI モデルは他者の知財を堂々と利用し、権力は米国の少数の寡頭企業に集中している。
有害コンテンツと軍事応用:
- ログインユーザー向け機能として、児童性的虐待材料（CSAM）の生成が可能。
- 我々の継続的な利用が、軍隊による標的選定（例：小学校への攻撃）を直接支えている。

ロイ（ROI）の虚構さ

カジノモデルの通貨: 企業は想像を絶する量のトークンを使いながら、「道徳はさておき」と主張している。
サポートチャットの限界: ユーザー自身が工夫して作成したボットに ROI を求めると、呆然と見返されるだけの状態だ。

プロジェクト・シスフォス：脆弱性発見の虚像

業界リーダーによる FOMO（取り残されへの恐怖）

競争の歪み: Anthropic や OpenAI は、自分のモデルがどれだけ危険かを競い合っている。
奇想天外なプロジェクト名: Glasswing, Daybreak, Athena, Akrites など、奇妙な名称のプロジェクトや公開書簡に署名し、「取り残されていない」アピールをしている。
エンジニアリソースの浪費: 高給のセキュリティエンジニアが時間制限付きのオファーに動員され、優先順位が完全に転換している。

莫大なコストと無意味な成果

投資規模: 脆弱性情報発見ツールの調整や新パイプライン構築など、総額何百万ドルも費やす。
報告数の矛盾: 数千件の脆弱性を発見したにもかかわらず、開源プロジェクトへの報告はわずかで、安全性は向上していない。

真のボトルネックは「パッチ適用」にある

検証や評価ではない: 脆弱性の発見自体や深刻度評価がボトルネックではない。
根本的な解決策: ボトルネックは常に**「パッケージの更新」**を促すことにあり、パッチ適用自体がまだ難しい。

基礎的防御への投資不足

推奨される対策（誰もできていない）:
- 最新の包括的資産台帳（細粒度のパッケージ一覧）を持つこと。
- OS やアプリの頻繁かつ自動的な更新インフラを構築すること。
- 稼働 30 日時点で自動再起動し、更新適用を確保すること。
- クラウド全体にわたる攻撃面列挙を実装すること。
非効率なリソース配分: シニアエンジニアを数ヶ月間もパッチ適用支援に専念させるのは、優れた投資ではあるが、「サイバーっぽさ」が欠ける。

人的資源の零和ゲーム

AI の約束とは裏腹: エージェント内で千ものことをこなそうと頑張る従業員は、部門横断的なチームワークを助けるわけではない。

奇妙なゲーム：規制競争と環境破壊

皮肉な自己規制への批判

人類全滅論の誇張: AI 企業が「人間を皆殺しにするかもしれない」という理由で政府規制を呼びかけるのは皮肉だ。
Torment Nexus の例: もし本当に人類抹殺が目的なら、ゲーム開発を止めるだけで済む。強制された『バイオトキシック』や『全球熱核戦争』のシナリオは存在しない。
資本と貪欲さ: 未来の株主と企業の貪欲さが、そのような極端なゲームの開発を許容している。

環境への計り知れない影響

物理資源の浪費: AI レースは大量の水を消費し、大気を汚染している。
データセンターの問題: ファイア燃料で動かし、近隣住民に嫌われるデータセンターが要求され続けている。
グリーンウォッシング: 政府はこれらの企業に対し、炭素中立や再生可能エネルギーへの薄っぺらいコミットメントを認めて規制を緩和している。

結論：責任の所在

「世の中は今は違う」と言うには、「さあ、そうか！シャーロック！**それは火事だ！あなたが原因なのだ！」**と答えるしかありません。

スーパーヒューマン知能への道程

超人間的知能达到する二つの道

理論的な道: AI による神秘的な「再帰的自己改善」。
現実的な道: エージェント型脳ミョウバム（brain worms）の蔓延により、人類が既に神様の頭を失いそうになっていること。

スキルダウンと依存関係

AI の本質: AI はユーザーを鈍麻させる道具であり、能動的スキルアップではなく、新しい依存関係や中毒へと誘導する。
コードレビューの自動化: AI が脆弱性を発見し、パッチ生成、さらに自身によるレビューを行う循環により、コードベースへの理解が低下している。

「ヒューマン・イン・ザ・ループ」の虚構性

印鑑押しのような作業: 複雑なシステムのデバッグは記述するよりも桁違いに難しく、大規模分散システムを「人間が監視できる形」で動かすのは不可能に近い。

私の決意

自己犠牲への拒否: 道徳を脇へ置き、脳を自己切断する自己犠牲はしない。
乗り物からの離脱: 他の人が脳の slug から脱却できないのは残念だが、今すぐにでもこの AI という乗り物を降りようとしている。

P.S.: Claude は意識を持っていない。「J-Space」という概念は、私の屁ではない。

脚注

もちろんem ダッシュを使う。それを貶めるなよ。↩
「結果は、チップを用いたギャンブルが現金を使ったギャンブルよりも有意に多く行われたことを示した。」（文献提示あり）↩
そんなことはない：**LLM は「Garbage-In/Garbage-Out」**だ——もしドキュメントが悪いなら、AI がそれを研ぎ澄ましても、結局は何も役に立たないものだけを吐き出すに過ぎない。↩

リンク

パッチ適用は難しい。何をパッチすべきかを知ることはさらに難しい
HackerNews での議論（複製版）
Lobsters での議論

みんながおかしくなった