AIが政府の古い情報を拾って誤回答する問題、英政府が動いた

英国政府のビジネス・通商省が、GoogleのAIによる概要が古いGOV.UKページを拾って誤回答する問題に動き出した。実費100ポンドのはずが13ポンドと案内されるズレは、AIだけの責任で片付けられるのか。政府自身の情報運用そのものを問い直す動きだ。

5年更新なし、閲覧11未満のページがAIに拾われている

英国のDepartment for Business and Trade(DBT、ビジネス・通商省)のコンテンツ運用チームが4月20日に公開したブログが、AIの誤情報問題にひとつの具体的な診断を提示している。犯人はAIの性能ではなく、政府自身が放置してきた古いページだという見立てだ。

「英国でチャリティを立ち上げるにはいくらかかる?」とGoogleで検索する。AIによる概要は「オンラインなら13ポンド、郵送なら40ポンド」と即答する。流暢で、もっともらしい。ところが実際の費用は、2026年2月1日以降、オンラインで100ポンド、郵送で124ポンド だ。

桁違いではない。ただ、オンラインの場合で約8倍、郵送では約3倍の差がある。英国民からすれば、申し込み直前で突き付けられる「話が違う」であり、心象としては最悪の部類に入る。

AIは「ニッチなページ」を拾いに行く

DBTのシニアコンテンツデザイナー、ジョルジオ・ディ・トゥンノ(Giorgio Di Tunno)と運用リードのニール・スター(Neil Starr)は、なぜこんなことが起きるのかを簡潔に説明している。

主要ページは最新の情報に更新されていた。しかしユーザーの検索はどんどん具体化しており、エージェント型検索はその細かい要求に合わせるために、あえてニッチな記述を探しに行く。

結果として、AIは管理が行き届いた主要ページではなく、「チャリティ」という語が偶然含まれた、放置ページの記述を拾い上げた。前任省庁であるビジネス・エネルギー・産業戦略省(BEIS)時代のまま引き継がれず、誰も更新していない類のページだ。

過去であれば、こうしたページは「閲覧ゼロの深淵」に沈んで誰の目にも触れなかった。AIの検索行動が、この前提を壊した。閲覧数ゼロのゴミ置き場が、いま突然「正解の源泉」として表に引きずり出されている。

70万ページという規模、150ページという着手

問題の規模感が、この話の厄介さを物語る。

2024年2月時点で、GOV.UKには70万ページが公開されていた。その後2年でさらに増えている。もともとGOV.UKの設計思想は「ユーザーがタスクを完了するためのノード」を提供することだったはずで、いまの肥大化はその理念とは真逆だ。環境負荷の観点からも褒められたものではない、とディ・トゥンノらは書いている。

DBTが今回手を入れたのは、この70万という母数に対してたった150ページ である。条件を掛け合わせて抽出した:

• 5年以上更新がない
• 5年間の閲覧数が11未満
• 「ガイダンス」など最新情報を提供すべきコンテンツ種別
• 所有者がいない(前身のBEIS等から引き継がれていない)

この4条件すべてに当てはまるページを、国立公文書館(The National Archives)のアーカイブ、現行のGOV.UKページ、あるいは元になった法令のいずれかにリダイレクト した。

150ページは、膨らみ続ける70万ページの estate に対してわずかなへこみでしかない。だがこれが始まりだ。ツールと手法がスケールするにつれて、へこみも大きくなっていく。

慎ましい、けれど正直な自己評価だ。そしてここに、AI時代の情報運用の難しさが詰まっている。人力で正解を維持できる速度と、AIが情報を吸い上げる速度は、もう釣り合っていない。

一度撤回バナーを置く案もあったが

興味深いのは、DBTが最初に「ページ先頭に"古い情報です"の撤回バナーを置く」案を検討し、却下している点だ。理由はユーザー調査でバナーはだいたい読み飛ばされるとわかっていたからだという。

そしてもう一つ、AIボットにも拾わせたくない、という明確な意図がある。人間の目には「撤回されたページ」とわかる表示でも、AIにとってはただのテキストだ。だからリダイレクト、つまりページそのものを消す選択をした。

この判断は、AIがコンテンツを読みに来ることを前提にした運用設計として、かなり踏み込んでいる。「人に見せない」ではなく「AIに拾わせない」へ目的がずれている。

6カ月ごとの見直しサイクル

もう一つの手当てが、定期レビューだ。

DBTは各規制官庁と恒常的な関係を築き、該当するガイダンスページを少なくとも6カ月ごとに見直す運用を試験している。各ページの下部には「最終レビュー日」と「次回レビュー予定日」が表示され、更新時には購読者に通知が飛ぶ。

ユーザー調査では、この表示が出ているページを見たすべての参加者が「使いたい」「信頼できる」と答えたという。情報の鮮度そのものではなく、「鮮度が管理されている痕跡」がユーザーの安心を生んでいる、という示唆だ。

The Registerの追試では、AIはもっと混乱していた

The Registerの記者が同じ検索を試したところ、結果はさらに芳しくなかった。GoogleのAIによる概要は最初「法人設立は無料」と答え、翌日には「おおよそ13ポンドから183ポンド以上」と回答を変えた。どちらも間違いで、日によって答えが違うことだけは一貫していた。

「おおよそ13ポンドから183ポンド以上」という範囲表示は、AIが複数の古いソースと現行のソースを混ぜ合わせて回答を捏造している典型例だろう。価格の幅で「逃げた」ように見えて、実はどの数字も単独では正しくない。ユーザーが一番混乱する形でもある。

誰の責任か、という問いのずらし方

DBTのブログで印象的なのは、問題の切り取り方だ。「Googleが悪い」「AIが悪い」という話にしていない。

政府がユーザーを引っ掛けようとしているわけではない(実際していない)。だがAIによる概要が返す一貫性のない情報が、ユーザーにはそう感じられてしまう。その認識だけで、政府サービスへの信頼は損なわれる。

AIの誤情報は、結果としてGOV.UKへの信頼を削る。だったらAIを責めるより先に、自分たちで「拾われるに値するコンテンツ だけにする」ほうが現実的だ、という割り切りだ。

教育省のマーク・エドワーズもほぼ同じ論旨で、公開するコンテンツの将来像をこう描いている。

われわれがいま発信するものの多くは、制御できないシステムによって間接的に読まれ、原子化され、要約され、再解釈される。その前提で設計する必要がある。

発信者が読まれ方をコントロールできる時代は、気付かないうちに終わりつつある。

日本のサイト運営者にも跳ね返る話

これは英国政府だけの話ではない。日本語圏でも、GoogleのAIによる概要は同じ構造で回答を組み立てている。省庁サイト、自治体サイト、企業のサポートページ、古いFAQ。更新されず、閲覧もされず、だが消されてもいないページ。それらは今、誰も意図しない形で「AIの学習元」として蘇生している。

70万ページに対して150ページ、という数字は英国の現実だが、より規模の小さい組織でも、構造は同じだ。古いまま放置したページは、いずれAIに拾われる。拾われた結果は、自分たちのブランドに返ってくる。

DBTが選んだのは、派手なAI規制ではなく、地味な棚卸しと定期レビューだった。あまりに当たり前の話で、だからこそ見過ごされてきた運用の基本線を、AI時代が改めて引き直している。

参照元

• Digital Trade Blog(DBT) - How we're preventing AI misinformation at DBT

関連記事

• Googleが「戻るボタン乗っ取り」を規約違反に——6月15日が期限
• 「単純な裁判」でもAIに任せるべきではない理由
• Google AI概要、正確性91%でも毎時「数千万件」の誤回答が発生
• AI検索でブランドを売り込む新SEO産業、ゴールドラッシュの内幕
• OpenAIがGoogle検索の「選択画面」にChatGPTを載せろと要求した理由
• Google Mapsに生成AIが入り、地図が絵を描く道具に
• Google第8世代TPU、トレーニングと推論で2分割
• Gemini in Chromeが日本にも来たが、iOS版だけ置いていかれた
• 3.3億ポンド払って、NHSに残るのは一行のコードも無い
• AppleとGoogleが「衣服を剥がす」AIアプリへ検索誘導