メタによる「王様不在連盟」アカウント停止事件：AI を理由とした責任回避と政治的検閲の疑義

事件の概要

• 日時: 10 月 17 日（米東部時間午後 1 時 30 分頃発覚）
• 対象: 「王様不在連盟 (No Kings Coalition)」の公式 Instagram アカウント
• 背景: 11 月 3 日の米国中間選挙に向けた早期投票を促す全国的キャンペーン最中（約 3,000 のイベント開催）。
• 状況:
  • アカウントが突然アクセスできなくなった。
  • 約 90 分後に公開表示は回復したが、組織側による投稿・コミュニケーションは不可。
  • 午後 5 時 33 分にようやく完全な管理アクセス権限の回復が可能になった。
• メタの主張の変化:
  1. 当初の説明: 「過度な投稿・共有・コメント」による自動化されたスパム行為とみなし、システムが自動停止したとする。
  2. 翌日の訂正: アンドリュー・ストーン氏（コミュニケーション担当副社長）により、「クラウド AI を利用したソフトウェアが通常時の4 倍のスピードでプロフィールや投稿を読み込んでいた」と説明変更。

メタ対応への技術的批判

• 事実と矛盾: 技術的な観点から、メタの各段階の説明も事実に合致しない可能性が高い。
  • 「投稿」は情報を Instagram へ送信する行為であり、「読み込み」は情報を受信する行為であり、両者は全く異なるログで記録される。
  • 有能なエンジニアなら数分で区別可能だが、メタのエンジニアが「読み込み活動」を特定したという後述の説明と矛盾する。
• AI を理由にした責任回避:
  • テクノロジー企業は自社の行動に対して責任を負わず、「AI が決定しました」という理由で説明責任（アカウンタビリティ）から逃れようとする傾向にある。
  • 自動システムが誤作動しても、人間による承認プロセスを経ている可能性があるが、メタはその点を曖昧にしている。
• 政治的なバイアスの懸念:
  • ザッカーバーグ氏や企業の商業的・政治的利益と対立する意見を持つ団体への検閲の適用可能性がある。
  • 2020 年に 7 歳少女の好みを推測できるほど高度な AI を保有するメタが、なぜ最も重要な選挙期間にこの団体を検閲しなかったのかの説明がないのは重大な問題。

アンドリュー・ストーン氏による公式発言の分析

• 10 月 17 日 22:07 の声明:

  「アカウントが極めて高い頻度で投稿、共有、またはコメントを行う場合、自動システムをトリガーすることがあります。それが今日の実行日前に『王様不在 IG アカウント』で起きたことでした。残念ながら、その自動的な措置は明らかに誤りであり取り下げられました。」

• 10 月 18 日 20:41 の声明:

  「エンジニアリングチームが発見したところ、誤った執行を引き起こしたスパスの主要因は、アカウントの『読み込み』活動でした。具体的には、私たちのネットワークセキュリティシステムが…クラウド AI ソフトウェアによるプロフィール・投稿・ハッシュタグの読み取りを検知しました。」（注：原文一部略）

• 矛盾点:
  • 1 日目: 「投稿/共有」が原因だったとする。
  • 2 日目: 「読み込み」が原因だったと変更。
  • メタは当初の声明（投稿活動によるもの）を支持する証拠を提供していない。

「4 倍の増加」という技術的主張の検証

• 数値の解釈:
  • ストーン氏はリクエスト数が「通常時の 4 倍（劇的な増加）」になり、パルス状態になったと説明。
  • しかし、閲覧者数やアカウントの規模とは無関係に、特定の閾値を超えた場合のみブロックされるという前提が不透明。
• 実際の活動量:
  • 「王様不在連盟」は約 3,000 のイベントを調整しており、活動増加は完全に予測可能。
  • メタはなぜ他の同等の増加を見逃し、特定の団体にのみ停止措置を適用したのか説明していない。
• セキュリティ閾値の不透明さ:
  • なぜその数値が「組織のアカウント停止」を正当化するかという基準（ポリシー）が提示されていない。
  • 検索エンジンや AI アシスタントが毎日数十億回も自動化されたリクエストを送信している事実を無視している。

ロックアウト期間の奇妙さ：なぜ数時間もかかったのか？

• 公開表示 vs 管理アクセス:
  • メタの自動レビューは約 1 時間で誤りと認識し、公開表示を回復させた。
  • しかし、組織側による投稿やコミュニケーション（管理アクセス）は午後 5 時 33 分までブロックされたままだった。
• 推測される原因:
  • メタの内部規定により、誤作動の停止措置を逆転するには、特定権限を持つ人間による承認が必要だった可能性が高い。
  • 「公開は直したけど、投稿機能だけ別のプロセスでロックされたまま」にしていた事実を隠蔽しているように見える。
• 結論: これは単なるソフトウェアエラーではなく、人間が関与して停止措置を継続させる（＝検閲）決定があったことを示唆している。

主要な技術的疑義：なぜ「読み込み」活動なのか？

• メタの主張: クラウド AI ツールがアカウント情報を大量に読み込んだと断定。
• 疑問点:
  • メタは Anthropic の AI を明示したが、誰が操作し、組織側がそれを許可していたかは特定されていない。
  • Instagram をアクセスするためにクラウドを使うことが禁止されているのか？それとも制限政策があるのか？
  • もし制限があるなら、「王様不在」以外の同様のツール利用アカウントも停止されているのか？
• 公平性の問題: 自動化された活動（ボット）自体がセキュリティ違反とは限らない。検索エンジンや分析ツールとの区別がないシステムは不合理。

メタへの質問事項（調査要請リスト）

メタのエンジニア、データサイエンティスト、および執行役員に対し、以下の技術的記録と説明の開示を強く求める。

執行プロセスに関する問い質し

• 声明の矛盾: アンドリュー・ストーン氏が「投稿」と「読み込み」を理由に説明を変更した根拠は何か？第一回目の誤りを支持する証拠は何か？誰がその変更を承認したのか？
• ロックアウトの期間: 停止措置が逆転した後、なぜ組織側のみが数時間ロックアウトされたのか？どの別々の制限が残っていたのか？誰が最終的に解除したのか（監査記録提供が必要）。
• 手動介入の有無: 停止前後にメタ従業員が手動で設定変更、オーバーライド、ブロックリストの追加を行ったか？タイムスタンプと責任者を開示せよ。

ポリシーと基準に関する問い質し

• クラウド利用ポリシー: メタはクラウド AI ツールの利用を禁止しているのか？もしそうなら、どのポリシーに違反したのか？「王様不在」以外の同様の利用が許可されているか確認せよ。
• 閾値の定義: 「4 倍の増加」という数値がアカウント停止の確立された閾値なのか？それとも特定のアカウント（政治的・センシティブな場合）にのみ適用される特別な基準なのか？他社の類似事例を開示せよ。
• 政治的分類: 「王様不在」を「政治的に敏感」として特別扱いするポリシーは何か？他の大規模・争议アカウントとの執行基準の差異を開示せよ。
• 広告と検閲の関係: 選挙期間中に違法とされるべき 1,600 以上の政治広告が削除されなかった事例（再分類のみ）と比較し、メタがなぜ今回の停止措置を「技術的故障」と称するのか説明せよ。

技術的詳細の開示要求

• トリガーの特定: 停止を実行した正確なセキュリティポリシーと技術的条件（リクエスト頻度、認証状態、行動パターンなど）を特定せよ。
• アクセス内容: クラウドツールが実際に取得したデータは何か？公開コンテンツのみか、認証情報や私有データへの試みも含むのか？
• IP 制限の回避: なぜ IP ブロックやレート制限などの標準的なセキュリティコントロールを適用せず、アカウント全体の停止を選択したのか？組織に責任があるとの証拠を示せ。
• 類似事例: 過去に同様の誤検知が何回発生したか？選挙や抗議活動中の停止措置の総数を提供せよ。

ブラジル大統領選挙介入事件との関連性

• 事案: 2022 年ブラジル大統領選において、メタは現職大統領（ルラ氏）のプロモーションをブロックし、対立候補（ボルソナーロ氏）へのアルゴリズム推奨を強化した。
• 不公平さ: メタの AI はルラ氏のキャンペーン資料を拒絶したが、ボルソナーロ氏には同等のコンテンツを生成・推奨した。
• 教訓: この事例は、メタが政治的利害や商業的利益に基づいてアカウントを操作することを示しており、「王様不在」への対応も単なる技術エラーではなく、同様のバイアスによる意図的な制限だった可能性が高いことを示唆する。

結論と要請

• 謝罪は証拠ではない: ザッカーバーグ氏が「無実の自動化ミス」と主張したいなら、内部的な決定プロセスの記録を開示せよ。
• 連邦議会への提言: メタを運営するエンジニアとデータサイエンティストを証人喚問し、技術ログに基づいた説明を求めるべきだ。
• 独立性の確保: 企業の声明だけで満足せず、独立した第三者によるシステム検証が行われるまで、責任ある説明は求められ続ける。

---

※この記事は編集・洗練に AI モデルを使用しましたが、調査、分析、結論はすべて著者自身のものであります。