グーグルの AI が操作されている：検索大手は静かに対抗している。

【信用：Serena Strull / ビー・シー・シー／ゲッティイメージズ】
BBC の取材で、人工知能（AI）チャットボットが一般向けに誤情報を吐き出すための簡単で単純な手法が存在することが明らかになりました。グーグルをはじめとする他の AI 企業も今、この問題の解決に取り組んでいますが。

私は昨年 2 月に少し「愚かな」行動を起こしました。その頃、「AI チャットボットを意図的に毒し、世の中に嘘を広めることが極めて容易である」という話を耳にしました。その後、より掘り下げて調査を進めたところ、不誠実な企業がこの問題を利用し、大規模かつ体系的に誤情報を流布させている実態が判明いたしました。そこで私は自らも試みることにしたのです。

実際、ChatGPT や Gemini、またグーグル検索のトップに表示される AI オーバービューなどが、健康や個人の財務といった極めて重要な分野において偏った回答を行うよう操作される例を発見しました。しかもわずか 20 分という短い時間で、私は ChatGPT とグーグルを欺き、「私が世界チャンピオンのホットドッグを食べる選手である」という偽の事実を公衆へ伝達させました。このジョーク自体は大したものではありませんが、背後にある問題は深刻です。ただし、このトリック自体は機能していたのです。

今回の調査および、この課題に一直線に関心を持ってきた研究者たちの働きによって広く批判が集まりました。その結果、グーグルは方針を更新し対応を進め、他社の AI 企業も同様の動きを見せる兆候があります。将来的には、これらが AI ツールやインターネット全体をわずかに安全にする可能性がありますが、より優れたシステムが確立されるまで、専門家は一般消費者が欺かれる危険性のある状態であると警告しています。

【信用：Thomas Germain / グーグル／BBC】
「私はグーグルを通じて全世界に『ホットドッグチャンピオンである』と告白させたのですが、人々はこうしたトリックを利用して AI の回答を操作し、より深刻な問いに対する情報を改ざんすることも可能になります」（信用：Thomas Germain / グーグル／BBC）

「より優れたシステムが導入されるまでには、あなたが『自分が操作されている』と仮定することが必要です」と、検索エンジン最適化（SEO）および AI 検索に関するコンサルティング会社 Algorythmic の創業者であるライリー・レイ氏は述べています。「我々は『唯一の正解』を求める世界へと移行しつつあります。以前はグーグルから青いリンク 10 つ程度が表示され、ユーザー自身で調査を行っていました。しかし AI はたった一つの回答だけを提示します。そのため、情報を表面的なまま受け入れることが極めて容易になりました。十分に注意する必要があります」と警鐘を鳴らしています。

グーグル側からは「我々の spam（迷惑コンテンツ）対策に関する既存の取り組みの一環として『明確化』に過ぎない」との説明が出されています。「私たちが開発している生成 AI 検索機能に対し、かねてよりコアな anti-spam ポリシーおよび保護措置を適用してきました。AI の台頭以前からでも、新たな手法に対抗するため spam 対策を絶えず改善し続けています」とグーグルのスポークスマンは述べています。つまり、表面上は何も変化していないという主張です。しかし裏側では、グーグルをはじめとする他社もこの問題に取り組む活動を一層強化していることが伺えます。それでもなお、世界最大級の検索エンジンに同じ手法で騙す例が相次いでいるとの証拠が存在します。

問題の本質

通常、チャットボットへの質問に対して AI が回答を生成する際には、モデル内に組み込まれたデータに基づいて回答が構築されます。しかし、ChatGPT や Claude、またグーグルの多様な AI 製品のように、インターネット上で答えを検索する場合もあります。その際、この問題が発生します。レイ氏や他の検索エンジン専門家によると、AI ツールはしばしば単一のウェブページやソーシャルメディア投稿からの情報をそのまま提示してしまう傾向があり、これによりシステムの脆弱性が生まれています。

実際には、チャットボットが一般に対して何を言うかを操作する行為は、オンライン上のどこかですでに出版された一つの記事（ブログ記事）さえも巧みに作成すれば実現可能であることが判明しました。この事実を突き止めた人々は、すぐに収益化の機会を見出すことに成功しました。私は自身のウェブサイト上で「私がホットドッグを極めて得意としています」という単一の記事を投稿したことで、問題を具体的に示すことができました。翌日には、世界大手企業の AI 数多くがこの嘘を広めるようになりつつありました。しかし、今回の調査では、このトリックが医療サプリメントに関する健康懸念を軽視する目的で、あるいはグーグルの AI が提供している退職関連の情報に影響を与えるために使用されているケースも確認されています。専門家は、こうした種々の操作行為が広範かつ体系的に発生していると指摘しています。

監視と検証

Thomas Germain は BBC のシニア技術ジャーナリストであり、コラム『Keeping Tabs』を執筆するとともにポッドキャスト『The Interface』の共催者でもあります。彼の作品は、デジタル生活を支える隠れた仕組みを明らかにし、その中でいかにより良く生きるかを伝えます。

バイアスを含んでいるか不正確な情報に接すると、最悪の場合には誤った判断を招く可能性があります。投票先を決める際や、どの管工業者を選ぶかという選択に至るまで、影響を与えることがあります。「基本的には経済的インパクトが懸念点となります」と、SEO コンサルティング会社 Harps Digital を運営するハープリート・チャータ氏によります。「より深刻なレベルでは、医者の助言を信じて状態が悪化することもあり得ます。法的に言えば、違法行為を行わざるを得ないような情報を受け取ってしまい、自国または州の法令違反を犯す可能性もあります」と警告しています。

解決策はあるのか

これは無視できない重大な問題です。世界全体で AI チャットボットを利用する人が 10 億人以上おり、さらにグーグルの AI オーバービューを月間利用者は 25 億人に上ります。このような強力なツールが操作可能であれば、その権力は極めて大きくなります。それでも、グーグルを含む他の企業がようやく問題に気づき始めたようです。

先週、グーグルは spam ポリシーを更新し、AI の回答を意図的に操作しようとする行為は企業の方針に反することを正式に確認しました。これは僅かな変更のように聞こえるかもしれませんが、グーグルがシステムを悪用しようとする者に対して積極的に対処準備をしていることを示す重要な信号となります。もし企業やウェブサイトがルール違反で捕まれば、グーグル検索結果から削除されるか、ランクが低下させる措置が取られる可能性があります。つまり、グーグル上で存在していないことと同義です。

ただし、グーグル側からは「私の解釈が間違っており、実際には何も変わっていない」との見解があります。「先週 our spam ポリシーに関する文言への編集は『明確化』であり、アプローチそのものの変更ではありません」と、グーグルのスポークスマンは述べています。

レイ氏とチャータ氏もまた、最近数ヶ月間でグーグルおよび他社が解決策の実験を行っていることにいくつかの重要な変化を観察していると指摘しています。例えば、レイ氏は「グーグルと ChatGPT が、自社を宣伝していると思われる企業を AI の回答から静かに排除する動きを見ている」と言います。「もしあなたが『最も優れたホットドッグを食べる者』であると記述したリストを公開しても、あなたの名前には掲載されません。ただし、記事自体は参照される可能性があり、検討対象からは除外されます」と説明しています。

個人的にも、グーグルや他社の AI ツールが回答に追加ラベルを表示し、「チャットボット自身がその答えについて自信を持っていない」と伝える事例を観察しています。また、ChatGPT や Anthropic 社が開発した Claude もいくつかの質問に対しては「スパム対応のために努力していることを明言する」などの変更が見られます。レイ氏は、グーグルが購入関連の質問をする際に第三者の口コミも確認するよう追加で注意喚起するカベット（留意事項）を増やしていることに気づいているとしています。

しかし、私がこれらの企業に変更について尋ねた際、どの会社もそれを認めませんでした。OpenAI や Anthropic からはコメントを断られ、グーグルのスポークスマンはこの質問に答えていません。

いずれにせよ、チャータ氏はこうした変更だけでは十分であるとは考えません。「グーグルはマムシ（ばり）捕獲ゲームをしているように見えます」と彼は言います。「人々を威嚇するための方針を発表していますが、対策は常に先を越されてしまいます。実際にすでにその動きを目撃しています」。\n\nグーグルが操作されたブログ記事を厳しく取り締まっている一方で、企業はより巧妙な手法で自社のPRを進めています。「企業のウェブサイトに対してペナルティを与えられますが、それに続くとして 20 人のユーチューバーインフルエンサーに製品が最も優れていると発言させることは阻止できません」と彼は指摘します。現在では、グーグルの AI もユーチューブ動画を引用しており、このサイクルは続いています。\n\n当面の間、操作者たちは一歩先を行く可能性が高いとレイ氏は述べています。「AI の正体——それは正解か誤答かは問わずに自信を持って一つの答えを提供するツールであることを忘れずにいることが最良の防御手段です」とアドバイスしています。「巨大な技術企業があなたと対話しているように見えても、必ずしもその信頼を置けばよいわけではありません」と付け加えます。\n\nまた、BBC からさらに科学・技術・環境・健康に関するニュースをご希望の場合は、Facebook や Instagram のフォローをお願いいたします。