
2026/04/24 5:48
『テクノロジーが邪悪に翻った理由』
RSS: https://news.ycombinator.com/rss
要約▶
Japanese Translation:
主要なテック企業経営層は、自己を進歩の守り手として位置づけ、政府規制や倫理的 safeguard を存在上の脅威とみなし、責任ある必要性とは見なさない。ピーター・チールのような著名人物は、グレタ・トゥーンベリやエリエーゼル・ユードコフスキーといった活動家を、科学技術の進歩を脅かす現代的な「ルディ派」と位置づける一方、ティム・ウーは AI —that is, the "Second Coming"—と国家介入との間の宇宙戦争を描き、何としても止めるべきだと述べている。この物語の裏には莫大な金融力があり、アンドレセン・ホロウィッツは資産額 900 億ドルを持ち、政治キャンペーンに数百万ドルを支出し、2025 年にはテック分野における政治支出のほぼ 4 分の 3 が共和党向けである。2025 年後半にはロビー活動費が急増し、AI が防衛やエネルギーといった重要セクターへと展開する中で、同業界は製薬大手に次ぐ規模となった。
しかし、このテクノ・オプティミズムは現実世界の争议と鮮明な対比を示す。チャットボットは数百万のディープフェイクを生成しており、イーロン・マスクの Grok がこれに 300 万件の児童性化イメージを含んでいる。主要プラットフォームは法的課題に直面しており、特にアップルは批判を受けながら児童ポルノ検出ツールの回収を行ったが、アマゾンに代表される市場支配力は小売業者から増税させる手数料(最大 51%)を徴収させ、消費者価格の上昇を招いている。現在の傾向が継続すれば、テクノロジー企業はその巨大な政治的影響力を背景に、トランプ政権の第 2 就任式に参加したテック企業のトップらに象示されるように、企業利益に好む法制度を再構築し、最終的にデジタルプライバシーと有害なシンセティック・メディアの拡散のリスクを高めている。
本文
Ⅰ. 反キリスト的なおかしさを解説する
二十一世紀の歴史家たちは、全米を支配するテクノクラシーの上昇を追跡し、奇妙なガレージの道具番らから「全体地球カタログ(Whole Earth Catalog)」に耽り悦び、そしてフィリップ・K・ディックが予言したような邪悪なる寡頭層による預言の実現へと至った過程を描こうとしている。その頂点を示すのは、おそらく二〇二五年九月と十月、サンフランシスコのコモンウェルス・クラブでペーター・タイエル(資産:二百九十億ドル)が発表した四回の講義である。テーマは「反キリスト」であった。
「十七世紀、十八世紀において」とタイエルは説明した。「『逆張者・ストラングロフ』のような登場人物になり、すべて邪悪で狂気の科学をなす科学者がいたはずです」。タイエルの話が進むと、数十人の抗議者(その中には悪魔の衣装を着た人々も)がプラネタリウムの標語「終わりが見えている/パラントルは道である/タイエルが道を照らす」などといった看板を持って屋外を練り歩いていました。「二十一世紀において」とタイエルは続けた。「反キリストとは、あらゆる科学を進めるのを止めたいと望むルーディット(産業近代化を拒絶する人々)のことです。ゲレタやエライアザーのような方々がそうでしょう」。
ゲレタとは、スウェーデンの気候変動活動家のゲレタ・トゥンベギであり、エライアザーとは、人工知能(AI)批判者のバークレー大学の准教授であるエライアザー・ユダコフスキーです。この格差闘争はさらに異常なまでに歪んでいます。アメリカのプラトクラシー(資産家階級支配)についての何を言おうとも、その経済的利己的利益を宗教的使命として提示することは滅多にありませんでした。しかし、より無邪気だった時代でも、シリコンバレーは過大評価傾向があり、単なる新技術だけでなく、人類意識の新たな段階をもたらすことを謳ってきました。今やテクノクラートエリートの一員が、テクノロジーの将来の繁栄を文字通りサタンの使徒との戦いとして位置づけるに至ったのです。トゥンベギ氏とユダコフスキー氏は、ゴーグとマゴグの役割に扮されました。タイエルの支配はもう少し政府の監督が必要だと提案すれば、彼はおそらくあなたを火の湖に投げ込んでしまうことでしょう。
タイエルの演説は、当然ながら恐ろしいという公衆の反応を引き起こしました。しかし、これはもはや単に千人社会主義的な感情の最も文字通りの表現にすぎず、AI の到来に関するこの種の考え方は、今ではテック巨頭たち之间で常識となっています。タイエルが啓示の書(Book of Revelation)をデジタルな未来に応用した際の戦術的ミスの点は、あくまで彼のメッセージを明確に聖書的なものとして保持していたことです。しかし、他のテックリーダーたちは、同様の物語を世俗化しています。「テクノロジーは神性そのものだ」とコロンビア大学法教授でテック評論家のティム・ウーはこの見解を説明し、「汎用人工知能(AGI)—that is、すべての次元において人間を超えた人工知能—は『第二の到来』である」と述べています。
話がこうなっています。善(AI)と悪(政府規制)との間にある戦争が迫っています。もし AI が勝利すれば、人間の知性が知的に優れたコンピューターによって eclipsed (覆い隠される)新しいエルサレムが訪れます。これは比喩的に言っても、文字通りでもなくともイエス・キリストの再来を表しています。テック界隈ではこれを「特異点」と呼びます。シリコンバレーのエグゼクティブたちは、カリフォルニア州サンタクララ郡にある施設での五日間のセミナーへの参加費として一万五千九百ドルを支払うことで、その偉大な「立ち上がりの日」を迎える準備を整えることができます(私は冗談を言っているわけではありません)——その施設の名前は「特異点大学(Singularity University)」です。
来るべき明け方とはどれほど栄光あるものになるでしょう!イギリスの数学者アイヴリング・ジョン・グッドは、一九六五年に書かれたエッセイで(このエッセイはよく特異点の概念を紹介したものとして引用されています)、「最初の超知能マシンこそが、人類が決して作る必要のない最後の発明である」と述べています。したがって、AGI の到来を妨げようとする者や、その開発のあらゆる形を制御しようと企む者は、七首の獣と結託しているはずです。しかしそれは文字通りの獣ではなく、政府による干渉や(この物語のより極端なバージョンでは)民主主義そのものが表す仮想的な獣にすぎません。いずれにせよ、これらの悪意ある介入者は何としても止める必要があります。
大まかに言えば、これはシスコ・バレーのベンチャーキャピタリストでネッツェス・コファウンダーマーク・アンドレエセン(資産:十九億九千万ドル)が二〇二三年の十月にオンラインに投稿した「テクノ・楽観主義者宣言(Techno-Optimist Manifesto)」の中で語られた物語です。「私たちが信じているのは、人工知能こそが我々の錬金術、我々の哲人石です」とアンドレエセンは述べています。彼は鉛を黄金に変え、さらにそこから永遠の生命をもたらすエリクサーへと変えるプロセス——これは伝説にしか存在せず実際には決して存在しなかったもの——を取り上げて言及しました。そして、「人工知能の減速が人々の命を奪うと信じています」とも述べています。「存在しなかったはずの人工知能によって防げたはずの死者は、一種の殺人行為です」(太字は私の強調)。アンドレエセンは「持続可能性」「社会責任」「リスク管理」「テック倫理」といった常識的な概念に対して宣戦布告を宣言しました。これらは「技術と生命に対する大衆的士気低下キャンペーン」の一部だからです(彼曰く)
アンドレエセンの言動は、サンヒル・ロードでサンドイッチボードを背負って歩く狂信者のようなもので聞こえるかもしれませんが、テック業界では彼は極めて影響力があります。彼のベンチャーキャピタル会社であるアンドレエセン・ホロウィッツ(Andreessen Horowitz)はシリコンバレーで最も資産が多く、九十億ドルの保有資産を持っています。以前は民主党候補者への活動資金集めに積極的でしたが、二〇二四年には五百万ドルを支出してドナルド・トランプを選出する 데に貢献し、エロン・マスクが政府効率省(DOGE)のスタッフを招聘するのを助けています。ブルームバーグ社の艾米リー・バーンバウムとオマ・セディキは二月、「アンドレエセン・ホロウィッツは、テック企業の AI 計画に影響を与える可能性のある行動を検討している上級ホワイトハウス高官や共和党の国会議員補佐官が最初に連絡を取る外部の存在である」と報告しました。
その話には文字通りの神か比喩的な神かもしれませんが、真正に関係するのはマモン(金欲しさ)です。テック貴族たちの政府干渉への熾烈な反対は、AI に対する集合的な財務投資——これは実質的に民間部門において前例のないほど大規模です—を反映しています。二月、ウォール・ストリート・ジャーナルによると、メタ(フェイスブック)、アマゾン、マイクロソフト、アルファベット(グーグル)によって今年開発される予定の六百七十億ドルは、米国国内総生産(GDP)の 2.1 パーセントに相当します。これは一八五〇年代に鉄道建設のために米国が支出した金額(GDP の 2 パーセント)よりもわずかに多く、さらにインターステート高速道路網建設(0.4 パーセント)や月面到達計画(0.2 パーセント)よりも大幅に多いです。ジャーナルが同規模以上の GDP を占める唯一の国家的投資は、一八〇三年に行われたルイジアナ買収(3 パーセント)です。これは米国領域をほぼ二倍に拡大しましたが、その時の GDP は今日の三千一百兆ドルではなく、わずか四千八十八百万ドルでした。そして、これらの過去のインフラプロジェクトとは異なり、今年の六百七十億ドルの AI 投資はすべて民間資金から調達されています。
これほど高い利害関係により、シリコンバレーは共和党(GOP)の腕の中に身を預けました。一時期の二〇二〇年まで、テック業界はトランプに対して圧倒的にバイデンを支持し、寄付金の 98 パーセントが民主党へ向けられました。その年の最大のテック寄与者はネクスト・チャールズ・リード・ヘスティングスで、彼は民主党に五百万ドル以上を支払いました。しかし二〇二五年の終盤には、公益市民(Public Citizen)という非営利団体が発見したところによれば、テック政治支出のほぼ四分之三が共和党へ向けられており、最大の寄与者はマスクで、彼は共和党を選出するために三億五千万ドルを献金しました。確かにマスクの影響は過大評価され、テック業界の政治支出の半分近くが彼一人体から来ているためです。しかしトランプが二〇二四年に勝利した後、他のテック首脳も同調し、トランプの第二回就任式に出欠を急ぎました。その中には(マスク、メタのマーク・ザッカーバーグ、アマゾンのジェフ・ベゾス、グーグルのスンドラー・ピチャイ)四人が出席し、トランプの閣僚の前で座る特別席を占めました。以前は元大統領や次期大統領の家族しか入ることができなかった場所です。このデジタル版「ラスモア(Rushmore)」はトランプの就任式と計画された「ゴールデン・ボールルーム」のために合わせて二千六百万ドルを貢献しました。全体としてテック業界は四千八十六万ドルを拠出しました。私たちにとっては大金に見えますが、テック企業にとっては小銭に過ぎません。
過去の巨大な像——首都のアメリカ合衆国議会議事堂にある「バーゴイン将軍の降伏(Surrender of General Burgoyne)」とマールのスカルプチャー「ユリシーズ・グラント」の下——現在の時代のアメリカのパワープレイヤーたちは、一〇二五年一月、ドナルド・トランプの第二回就任式に集まりました。その中から左へ:スコット・ベセント、マルコ・ルビオ、プリシラ・チャンとその夫マーク・ザッカーバーグ、ロバート・F・ケネディ・ジュニア、ローレン・サンチェス、カシュ・パテル、ジェフ・ベゾス、ホワード・ルーテンク、ペティ・ヘグセット、スンドラー・ピチャイ、そしてエロン・マスクが写っています。
最近までテックはワシントンのロビー活動に対して限られた熱意しか示していませんでした。一十年前、ロビー活動業界の中で四番目にランク付けされ、医薬品大手(ファーマ)に半分以下の支出をしており、オープンシークレッツという選挙サイトによるとファーマが一位でした。しかし二〇二五年の終盤、データが存在する最後の年の末には、テックは第二位へ進出し、ファーマ(それでも一位)に対してほぼ四分之三ほどロビー活動費を支出しました。その理由は AI です。「AI は単にワシントンの足跡を広げるだけではありません」とエックスアイオスのアシュリー・ゴールドが指摘します。「それはテックのロビー活動全体を飲み込みましたし、既存の企業統合、プライバシー、言論自由に関するロビー活動に加えて、暗号通貨、防衛調達、そしてデータセンターの絶え間ないエネルギー需要といった新しいトピックを追加しました」。
シリコンバレー自身の議会議員である民主党のロ・キャナもテックの影響力に不安を抱いています。「AI を利用して雇用を削減し、より大きな利潤を引き出すことを防ぐ規制が必要です」と彼は十一月にツイートしました。「大量の失業には課税すべきです」。キャナがカリフォルニア州による一時的な五百パーセントの億万長者への資産税を支援した後に、アンドレエセン・ホロウィッツのパートナーは X で「嫌悪するバカ」などと呼ばれ、「彼に投票して追い出そう」と誓いました。しかしキャナ自身は「進歩的な資本主義者」と自称しており、去年までにはアンドレエセン・ホロウィッツの関連団体から一万五千ドルの選挙資金を集め、誰にも思いつかないほどの激进派ではありませんでした。二〇二四年の govtrack.us による調査では、彼は下院議員の中で六十七番目に左翼的な姿勢を持つと評価されました。テック業界が窓の外を見ると、そこにはただ敵しか見えていません。
これは一世代前に、権力と情報を一般の人々へ分配することを約束して誕生した業界でした。今やそれは監視、誤情報、独占、致死性を崇拝し、特異点へと急襲しており、その資金に関係のない思考を持つ人々からは小さくない心配を引き起こしています。どうしてこんなに怪物化したのでしょうか?
Ⅱ. コンピューターが自由を意味した時代
「準備できていてもしていなくても、コンピューターは人々の元に来ています」と、スチュワート・ブランドは一九七二年十二月号のロールストーンの誌面で書きました。(表紙にはカルロス・サンタナが載っています)。「それは良いニュースです。覚醒剤以来最高の良いニュースかもしれません」。以前、ブランドは小説家ケン・ケシールの「愉快ないたずら者(Merry Pranksters)」の一員であり、LSD を服用する非従順な若者のバンドで、トム・ウルフが『エレクトリック・クーライド・アサドテスト(The Electric Kool-Aid Acid Test)』(一九六八年)に追跡した、マルチカラーのスクールバスに乗って旅をした人々でした。その後ブランドは「全体地球カタログ」を作成し、大地に近い生活から人間離れした生活へのガイドとして広まったカウンターカルチャーの指南書になりました。読者は最良のカットビーズを購入する場所や、ジオデシックドームをどのように作るか、または『易経』について、またはフォルクスワーゲン・ビートルをどのように修復するかを知ることができました。二〇〇五年にスタンフォードでの卒業式で、アップルの創設者スティーブ・ジョブズは、「全体地球カタログはまるで三十五年前の Google のペーパーバック版のようなものです」と語っています。ブランドはまた、早期のオンライン討論フォーラム「ザウェル(The WELL)」も創造しました。まだ運営されています。
当時はコンピューターの民主化について書いているブランドでしたが、コンピューターはまだ巨大なメインフレームであり、政府、大企業、大学だけに利用可能なものでした。ルイス・マムフォードは一九七〇年の著書『五角形の力(The Pentagon of Power)』でコンピューターを「全能の執行者の目」と呼び、「彼の命令に絶対的な順従を要求し、秘密は何も隠せず、服従には罰を与える者」と表現しました。大衆文化も同様に、コンピューターを『2001 スペース・オディッシー(2001: A Space Odyssey)』(「すみませんデブ、私ができるのはありません」)や『コロッサス:フォービン・プロジェクト(Colossus: The Forbin Project)』(「あなたは自由を失うと言います。自由は幻想です」)などの映画で無表情の悪役として描きました。
ロールストーンのエッセイでは、ブランドは十数年先の別の種類のコンピューター——パーソナルコンピューター——について書きました。元ニューヨーク・タイムズの記者ジョン・マークオフは二〇〇五年の本『ザドーマウスサード:'60 年代カウンターカルチャーがパーソナルコンピューターを形成した』で、「管理道具として見送られるのを止めて、個人の表現と解放のシンボルとして受け入れられるもの」と述べています。
コンピューター業界のカウンターカルチャーのパラドックスは一开始から evident(明白)でした。ブランドのロールストーン記事は、設立の本心——パロアルトの足元のスタンフォード人工知能研究所——で設定されていました。しかしブランドが描いたのは、約二十人の「騒々しい」長い髪を持った「ハッカー」(彼の読者にとって定義する必要があった用語)がスペース・ウォー!というコンピューターゲームをプレイしている光景でした。ブランドは、「マリー・フランクターの薬物実験以来、私が関わった最も忙しいシーンです」と書きました。しかしこの boh 的な遊び場は、政府によって設立された研究プロジェクト庁(ARPA)によって可能とされており、アメリカ全国に twenty の主要なコンピューターセンターを接続し、後にインターネットへと進化したものでした。実際、ARPA はカウンターカルチャーが最も嫌った政府機関の一部であり、その時点でベトナムで若い男たちを送り出すために Pentagon を使用していました。物質的な利益が早期のパーソナルコンピューター発明家にとって第一優先ではなかったとしても、全く欠けてはいませんでした。「彼らは金持ちになりたいとは思いませんでしたが」とウォルト・モスバーグ(一九九一年から二〇一三年まで『ウォール・ストリート・ジャーナル』の「パーソナルテクノロジー」コラムを執筆)は説明しました。「それが彼らの主たる目的ではありませんでした」。
それでもマークオフは『ザドーマウスサード』で、西海岸のコンピューター文化のもっとも分散化され自由精神豊かな性質が、IBM やハーバード、MIT が所在する東海岸よりもパーソナルコンピューターの開発においてシリコンバレーに創造的な優位性を与えたと言っています。カウンターカルチャーという用語を普及させた歴史家のテオドア・ロズザックは、一九八六年にパーソナルコンピューティングは「原的な小屋型の産業」から成長したと述べています。「作業は屋根裏部屋やガレージで行え、単純な手段で多数の知恵を持つことができました」。最もしばらくの間であった二〇〇九年にも、ジャーナリストジェフ・ジャヴィスはまだ「小ささが新しい大きさであり」ということを観察することができましたし、「リリプット人々が勝利した」とも言いました。
八十七歳でまだテクノ楽観主義者であるブランドはインタビューで、「その実体はまだ多く残っています」と語りました。「世界の百科事典は依然としてウィキペディアであり、インターネットアーカイブは何もを無料でアーカイブしています」。どちらもボランティア労働に依存する非営利団体です。また、ブランドは「iFixit のような会社があり、修理指導を無料で提供することで『修理権』を推進しています」とも述べています。これは製造業者を憤慨させます。彼らは消費者から修理費用を受け取りたいからです(iFixit は修理キットや他のツールを販売して利益を得ています)。「YouTube が完全に全体地球カタログに代わりました」とブランドは述べ、「オープンソースソフトウェア(例えば UNIX や Linux)は今まで以上に強力です」。「すべては、'70 年代と '80 年代に入っていく時よりも想像を超えた民主化です」。
一九九三年にポリオワクチンと同じくジャナス・ザークのように自分の発明——ワールドワイドウェブ——を公衆の領域に移したティム・バーナーズ=リーは、より暗い見解を持っています。「過去数年間」とバーナーズ=リーは二〇二五年の本『これは全員のもの:ワールドワイドウェブの未完の物語』で書きました。「私はウェブが透明性があり、オープンソースで自由にアクセス可能な状態を保つために戦ってきました」。しかし「依存性の高い形態のソーシャルメディア」の登場により、ウェブトラフィックの大部分は「あなたの個人データを収穫し、商業ブローカーや圧制的な政府(米国も含むかもしれない)と共有している少数の大規模プラットフォームに集中しています」と彼は述べています。「さらに悪いことに、専制的な政府は現在ウェブを誤情報を広め自国の市民を監視するために使用しています… AI の時代には、これらの脅威はかつてないほど緊急です」。
「誇張しないようにしましょう」と、三十年間テックを取材してきたケア・スイシャーは私に言いました。「私は彼らがリベラルだとは思いませんでした。彼らの政治を知ることもできませんでした。もし考えたとしたら、それは一種の libertarian-light(軽度のリバタリアニズム)でした」。スイシャーの二〇二四年年の自伝『バーンブック:テックラブストーリー』は、「実は、結局のところ資本主義だった」という文で始まります。
もちろんそうしました。一九九七年までさかのぼり、トーマス・フランクは『商品化する異議申し立て(Commodify Your Dissent)』や『冷たい征服(The Conquest of Cool)』で、六〇年代の反乱青少年文化が企業アメリカによって吸収されたことへの抗議を行いました(このテーマは後にダヴィッド・ブックスによる二〇〇〇年のベストセラー『パラダイスでのバボス(Bobos in Paradise)』で再活用されました、しかし批判なしに)。フランクの見解では、カウンターカルチャーと企業文化は从一开始のうちに非聖なる同盟を結んでいました:
- 一九六七年度の「愛の夏」は、淫らなテレビスペシャルやライフ・マゼジン記事と同じくらい若者たちの不満の表現でもありました。ヒース社は一九六八年に幻覚作用のある雑誌を開始しました。また、吸収に対する敵意さえも絶望的に「本物」な影を持っており、一九六八年のコロンビアレコードのための有名なプリント広告「しかし男は我々の音楽を破壊することはできない」と記録されています。
成熟したテック業界の反乱姿勢は、一九八四年一月にアップルの有名な「一九八四年」スーパーボウル広告で最も完全に表現されました。リドリー・スコット(ブレードランナー)監督が手がけたこの広告では、女性アスリートがハンマーで二面テレビ画面を破壊し、ジョージ・オーウェルのビッグブラザーが従順な大衆に話していました。「一月二十四日」と広告は締めくくられました。「アップルコンピュータはマッキントッシュを発表します。そしてなぜ一九八四年が一九八四年のようなものではないかを理解いただけるでしょう」。核心は、パーソナルコンピューターがマムフォードが恐れたユニバック様式の企業および政府支配から私たちを解放するということでした。しかし現実的なインスピレーション源は、PC 市場で IBM や AT&T といった巨人競争相手を打ち負かすというもっと実用的な野心でした。それらはいずれもすでに足元を掴んでいました。
Ⅲ. モノポリーへの行進
テック企業がスケールアップするにつれ、ワシントンは主に彼らを放置していましたが、政治家たちは製品にほとんど把握できませんでした。二〇〇四年の遅い時期までに、ジョージ・W・ブッシュ大統領は「インターネット」について語りました。例外的な例外は、アランティス事件においてマイクロソフトを訴えたクリントン政権下の司法省による独占禁止法訴訟ですが、これは二〇〇一年の和解でマイクロソフトが主に敗訴しました。より重要なのは、一九九六年の通信適当法(Communications Decency Act)の第二三条であり、コンピュータサービス提供者を第三者がプラットフォーム上のコメントに対する法的責任から保護し、フェイスブックや X といったソーシャルメディア巨人に誤情報と毒性的な偏見を公衆に洪水させる可能性をもたらしました。
新聞業界の緩やかな死とその結果としての有権者の愚かさ化は、主に第二三条によるものです。さて、五人の人々に対して出版プラットフォームを与えることは興味深い社会的実験でした。しかし三十年以上後、その結果が出ています。実験は失敗しました。もし第二三条を廃止すれば、ソーシャルメディアはその現在の形では少なくとも死にます。私はそれで構いません。しかし廃止は夢物語かもしれません。なぜならそれは少なくとも二人のソーシャルメディア貴族(エロン・マスクとマーク・ザッカーバーグ)によって死闘されるでしょう。彼らの combined net worth は一千億ドルに近づいています。それでも、フェイスブックか民主主義かを尋ねられれば、どちらを選びますか?
メタのマーク・ザッカーバーグ(資産:一八十五億ドル)はしばらくの間、Facebook での差別的コメントを抑制する見せ場を作りました(そしてある程度まで会社は今でもそれを続けています)。しかしトランプの第一回政権の期間中、ザッカーバーグはメタの財務的利己的利益を憲法第一条の言論自由の保護の中に隠蔽し、明らかに偽物の人民主義を主張する演説を行いました。「私が理解しているのは、テックプラットフォームが権力を中央集権化させたことへの懸念です」とザッカーバーグは言いました。「しかし実際には、これらのプラットフォームが人々の手元に直接置くことで、どのほど権力を分散させたのかという方が大きな物語だと思います」。
それは安心感を与えるように平等主義的に聞こえますが、「人々」の一部は未成年者です。二〇二三年のピュー調査によると、アメリカのティーンエイジャーの中で Instagram にいる割合は thirteen と fourteen 歳で 45 パーセント、fifteen から seventeen 歳では 68 パーセントでした。二〇一九年、メタの Instagram は一時的に「美しさフィルター」の使用を禁止しました。または augmented reality アプリであり、自撮りをより伝統的な美しさの概念に合わせて顔の特徴を調整します。メタはこの行為をしながら十八人の専門家から美的フィルターが思春期の少女の自己イメージに害を与えるかどうかが尋ねられました。専門家たちは全員答えました:確かにそうです!メタはこの発見を無視し、フィルターを再導入しました。ザッカーバーグは後に説明しました。「私は頻繁に人々に『そのような自分自身を発信できない』と言っているのは押し付けがましいと思います」と言いました。
言論の自由を抑制することに躊躇する別のグループは犯罪者です。去年の十一月、ロイターのジェフ・ホルツィッツは、内部メタ文書によって Facebook, Instagram, WhatsApp の収益の 10 パーセントが詐欺や禁止品のための広告から来ていることを報告しました。もしメタが少なくとも 95 パーセント確信してユーザーが詐欺を犯している場合、それはそのユーザーを禁止しました。しかしその確信度が 95 パーセント未満に下がった場合、メタはユーザーを罰し、——これは注意してください——より高い料金を徴収しました。「アイデア」とホルツィッツは説明しました。「疑わしい広告主に広告を配置することを抑止することです」。しかし不正な広告主が罰金を支払うことに同意すれば、メタはその悪意ある得金の一部を実質的に受け取ります。メタの広報担当者はホルツィッツに内部文書は「荒削りで過度に包括的だ」と話しました。
その後のフォローアップで、ホルツィッツとロイターのエンゲン・ tham は、メタが発見したところによって中国がすべてのプラットフォームの広告のおよそ四分の一を占め、詐欺や各種違法コンテンツを訴えていると報告しました。その結果として会社は中国に焦点を当てた防詐チームを作成しました。「インテグリティ戦略のピボットとザックからのフォローアップの結果」という内部文書では二〇二四年、「中国チームはシャットダウンされた」と述べています。メタの広報担当者はホルツィッツと tham に中国チームは常に一時的なものだと言いました、そしてザックの詐欺監視削減に関する指示は「世界中」に適用されました、中国だけでなくです。
同時に、X 側ではマスクの人工知能チャットボットグロックが性的なディープフェイク画像への洪水を開きました。最近の十一日間の期間中、非営利団体デジタル嫌悪センター(Center for Countering Digital Hate)によると三百万枚のそのような画像が X に出現しました、その中に子供がいるのは 23,000 です。これは X の視聴者エンゲージメントの記録的なレベルと同時でした。公共の圧力の下でマスクは X の機能を無効化しましたが、他の場所でのグロック投稿には残しました。
テックの敵は摩擦です。責任ある企業の市民を演じる任何の衝動は、修正が製品を複雑化するリスクと比較される必要があります。したがって、ウエストバージニア州が二月に提訴した訴訟によると、アップルは iCloud におけるプライバシーを優先するほど過度に、子供ポルノグラフィを持つ犯罪者を発見されない避難所を作り出しています。この問題を解決するためにアップルは二〇〇一年に検出ツールを作成しました。しかしプライバシー擁護者からの批評を受けた後、二〇〇二年に同社はそれを撤回しました。「過剰に警戒しており根拠がない」と訴訟によるとアップルの説明です。結果として「安全で摩擦のない子供ポルノの所有、保護、配布のための道」を作った(訴訟によると)。その反応として、アップルは書面で述べました:「私たちは毎日を革新し、進化する脅威と戦い、子供たちのために最も安全で信頼できるプラットフォームを維持しています」。アップルはまた、「コミュニケーションセーフティ機能」が裸の画像をぼかすと述べました。これに対してウエストバージニア州の市民訴訟は「ユーザーはそのコンテンツを表示し続けることができ、違法な明白な内容——例えば子供ポルノグラフィ—even コミュニケーションセーフティ機能を有効にしてもアップルに直接報告するメカニズムがない」と答えました。裁判の日付はまだ設定されていません。
テックが摩擦に対する敵意を顧客は常に正しいという真心の信念と混同しないでください。特定のテック企業が十分な市場シェアを得た後、顧客体験の質は微妙な形で低下する傾向があります。ライターコリー・ドクターロウはこの現象を「エンシフィケーション(enshittification)」と呼びました。彼の二〇二五年の本で同じ名前のものは、成功したインターネットプラットフォームは顧客に対して異常に役立つことから始まります。しかし顧客がロックインされた後、プラットフォームは彼らを利用する「ビジネス顧客のために物事をより良くするために」。最終段階では、これらのプラットフォームは「ビジネス顧客を利用して価値のすべてを引き上げる」ために利用します。
ドクターロウはこのプロセスをどのようにAmazon で説明するかを見てみましょう。それはデジタル小売販売の 40 パーセントを支配し、最近 Walmart を超越してあらゆる種類の最大の国営小売業者となった驚異的な存在です。
- ステップワン: 顧客を捕獲するために、 predatory pricing(Predatory pricing)によって、つまりコスト以下に販売し、配送を割引します。
- ステップツー: プライム会員シップを提供します。これは「ソフトなロックイン」であり、プライム顧客は事前に配送料を支払います。
- ステップスリー: 顧客に他の場所で使えないものを買わせます。オーディオブック、映画、そしてほとんどの電子書籍と電子雑誌は Amazon のプラットフォームでのみ表示できます。Amazon を辞めれば、それらを失います。
- ステップフォー&ファイブ: Amazon は初期に自分の販売品を全額支払うことで小売業者に魅力的になります。しかし小売業者がより依存するにつれ、Amazon は彼らからより多くの割引を引き出します(ステップフォー)。これらの割引はより多くの顧客を引き寄せ、Amazon にさらに大きなレバレッジを与えます(ステップファイブ)さらに割引を引き出し、そして繰り返されます。他の Amazon による小売業者からの抽出には、プライムでの小売業者販売の割合や検索結果での上位表示に対する手数料が含まれます。
- ステップシックス: 注意してください。Amazon は顧客に直接財務的圧力をかけません。それはまだ支配的な「消費者福祉」という独占禁止法基準に従うためです。しかし消費者福祉は完全に無関心ではおらず、ステップsix で Amazon の小売業者に対する各種費用が大幅に上昇します(ドクターロウによると 45 から 51 パーセント)ため、小売業者は製品価格を上げます。Amazon だけでなく全体的にもです。したがって、Amazon は間接的に消費者価格を上押しし、Amazon だけでなくターゲット、Walmart、そして角のハードウェア店でも行います。
したがって、最初はテクノロジーが人類を力づけるところから退化し、次に様々な種類の捕食者を力づける場所に、最後にテックプラットフォーム自体による企業捕食へと至りました。
Ⅳ. 憎しみから政府自身へ
テック企業が社会病態化したのはいつでしょうか?多くの方法では、この変化は漸進的であり、特に彼らの CEO がより多くの金と権力を獲得するにつれて変化しました。「何でも良いことが起こればそれはあなたの頭脳が賢いからだ」という考え方がどんどん簡単になる」「ベテランのテックアナリストエステール・ダイソンは私に語りました」。すでに二〇〇九年、リベラルではなかったタイエルは公的に、「自由と民主主義は相互に相容れないと再也不信じています」と宣言しました。そして一四年には、「独占病または例外ではなく、独占はすべての成功するビジネスの条件だ」と書きました。
「私は二〇一〇年代を転換点と考えます」とウーは私に語りました。最初に、ウーは彼の二〇二五年の本『奪取の時代(The Age of Extraction)』で書きます。ウェブはタウンスクエアに同等の公共プラットフォーム——ARPANET, NSFNET, そして独占行為によって抑圧された民間企業(電話会社とマイクロソフト)——を基礎にして構築されました。新しいプラットフォームである Amazon や Google が登場すると、最初は彼ら自身を「企業の慈善団体のように」示しました。ウーは書きますが、Amazon は最初の十年のほとんどで利益を公開しませんでしたし、Google はスローガンを「悪くなれ(Don't be evil)」として採用しました。しかし二〇一〇年代までにこれらのプラットフォームは他の企業アメリカと一緒に株主利益を優先するようになりました。二〇一六年、Google は国際的な利益のほとんどをバミューダシェル会社に移転し、所得税を三百七十億ドル削減しました。二〇一八年には Amazon は一千万ドルの利益について一切税金を支払いませんでした。同年、「悪くなれ」というスローガンは静かに Google の行動規範からトップからボトムへ移りました。
独占禁止法執行者ライナ・カーンの二〇二一年指名は、Amazon やメタからの激怒したロビー活動を引き起こし、テックの明確な悪逆への降下に一つの信号事象となりました。
別の変化は少数のテック企業が獲得した異常な力です。「Amazon は人々がどのように買い物をするか決定します」とニューヨーク・タイムズのデヴィッド・ストレイトフェルドは二〇一七年に観察しました。「Google が知識をどのように取得するか、Facebook がどのようにコミュニケーションするか」。それは今日でもさらに真実です。彼女の二〇二四年の本『テッククーデター(The Tech Coup)』で、以前欧州議会のメンバーだったマリエッテ・シャークはこれを「事実上の統治権力」と呼びます。テック企業は実際の統治権力を蓄積しました。二〇〇八年以来、Palantir は政府契約で三百七十億ドルを受け取り、マイクロソフトが五百八十億ドル、Amazon Web Services(つまりクラウド)が七百九十兆ドル——すべて主に防衛省からでした。マスクが二〇二五年の冬に連邦官僚制を破壊しながら、ワシントン・ポストは彼のビジネス帝国が政府契約、ローン、補助金、および税優遇措置 totaling 三百八十億ドルで構築されたことを報告しました。テックリバタリアニストは実は政府のお乳に強く吸い付きたいと考えています。
Palantir はタイエルが共同設立者であり取締役会長の最も明らかに邪悪な企業の一つです。なぜなら、その他にも、移民および国境管理庁(ICE)に監視技術を提供するためのもう一つの理由があり、ある契約授与によると「送還物流の効率を増進し、時間と資源支出を最小化すること」を提供します。二〇二零年のアムネスティ・インターナショナルレポートは結論付けました。「Palantir がアメリカ政府によって移民および難民申請者に対して深刻な人権侵害に寄与する高いリスクがある」と。これに対する Palantir の代表者は「我々は私たちのソフトウェアを非道徳的または違法な目的で使用することを許可しません」と答えました。しかし二月の株主とビデオ会議で、Palantir の T シャツ姿で乱れた髪の CEO アレックス・カールは彼の喜びを抑えきれず、「Palantir はここでは破壊のために来ており、私たちが協力する機関を世界最高にすることです。そして必要に応じて敵を恐怖させ、場合によっては殺します」と言いました(太字は私の強調)。三月初めに Palantir はまさにそうしていました。イラン戦争の爆撃目標を選択し、株価が 15 パーセント上昇しました。
テックの最終的な明確な悪逆への降下は、ジョー・バイデン政権の期間中の三つの事件の結果でした:二〇二一年的ライナ・カーンの FTC 委員長任命;二〇二二年の ChatGPT の登場;そして二〇二四年のドナルド・トランプ大統領の選挙。Amazon とメタはカーンの指名に対して反対ロビーを行いました。なぜなら彼女は独占禁止法の再活性化を求めたからです。確認された後、両社は彼女が無関心な立場で彼らの案件から除外されるように求めて失敗しました。二〇二二年十一月の ChatGPT の導入は、Google, メタ, マイクロソフトおよび他のテック会社による六百七十億ドルの AI 投入に至った競争を始動させました。そしてトランプは第二回の就任式から三日後に「前任者のこの産業を麻痺させる試みを逆転させる」行政命令を発布しました。トランプはまた独占禁止法の執行を緩和し、一年以内に司法省の独占禁止法首席ガイル・スレーターを追い去りました。最近ではヒューレット・パッカードと Juniper Networks が二人のトランプ盟友を雇って彼女の頭上を取り付け、有利な条件で独占禁止法訴訟を解決しました。
現在、米国には AI の開発または運用を広く管轄する連邦法律や規制がありません。それは欧州連合(EU)に主導権を与え、議会は二〇二二年にテック特有の独占禁止法を制定し、二〇二四年に AI 法を制定しました。人間の行動に対する潜在意識的または操作的反対的な歪みを禁止しますなど。トランプ選挙後のワシントンの主な焦点は AI を管轄する州法を事前に阻止することにありました。下院が通過したトランプの「ビッグ・ビューティフル」和解法案の昨年の元のバージョンには、AI の規制に関する十年間の停止が含まれていましたが、最終的な法案ではその部分が消えました。代わりに、トランプは現在 AI を規制する州に訴訟を起こす計画です。事前阻止のための理由は、AI は国家レベルでよりよく管轄されるべきだからです。これは真実です。しかし共和党国会が有意な AI 規制を通過させると信じる理由はありませんし、トランプが任期中にそれを署名すると信じる理由もありません。
政府が制限または禁止すべき潜在的 AI プライクテーションの終わりはありません。プライバシーは保護されるべきです(あなたが小児性愛者でない限り)。チャットボットとの会話が大失敗した場合、常に人間のアльтナティブへのアクセスがあるべきです。AI があなたに身体的害を及ぼした場合、常に訴訟するために深いポケットを持つべきです。物理的害について言及すると、「ハイパーウォー」に対する極限の制限が必要です。ミサイル攻撃など人間の介入なしに行われる場合(「殺す」)。Anthropic は倫理的な行動を一部の努力で行っている稀な AI 企業が、 Pentagon がその技術を使用する方法を制限しようと試みました。しかしそれは「サプライチェーンリスク」という疑わしい理由で政府契約からすべて除外されました。現在裁判所で戦っています。避けられない教訓は、企業責任は政府規制の貧しい代替手段であるということです。
それから失業の問題があります。ホワイトカラーアメリカは五十年前の産業労働者が始めたように、自分が潜在的に廃棄されることに気づき始めているのです。そのときは知識階級は肩をすくめ、「事態是这样的。再教育しよう」と言いました。今では脳を持つ作業員たちは陳腐化をより個人的に受け取ります。実際、すでに起こっています:給与会社 ADP は人間ソフトウェア開発者の需要が二〇一九年にピークに達し以来、それ以来減少してきています。Citrini Research の金融アナリストはこれを「人間の知能置換スパイラル」と呼びます。
このスパイラルがより顕著になるにつれ、経済学者がかつてばかなと判断した法律保護——失業制限——がもう一度検討されることになります。希望します。私たちが採用するものはあらゆる給与レベルの職務に広く分布されます。倫理的な使命だけでなく、そうすることで民主党の大学卒業生らが労働階級との間に長欠けている和解を引き戻す可能性があります。
しかし成功するには、AI を規制するために歴史の中で最も公共の説明を敵対的に反対するプラトクラテス層に立ち向かう必要があります。黄金時代の盗賊バーオンたちは歴史上私欲の典型として記録されていますが、少なくとも彼らは民主主義を信じていました(購入または販売可能なものとして)。技術貴族は盗賊バーオンと同等の金銭性を持っていますが、民主主義へのコミットメントはせいぜい弱く、最悪の場合には政府自体を廃止する千人社会主義者の狂気者です。私たちが特異点への行進を遅らせると提案すれば、彼らはあなたを文字通りか比喩的な悪魔として扱います。彼らはデジタルの第二の到来にあまりにも多くの現金を投資しているので、異なるように考えることはできません。
テック貴族を制御することはアーマゲドン規模の戦いではありません。しかし、賭けは現在私たちが知っている以上の高いものになるはずです。民主党だけでなく人類全体も、長い苦しい戦いに備えるべきです。なぜならこの敵は少なくともそれほど豊富である一方で狂気じみた——そして本当に、本当に金持ちだからです。