カーディフ大学、偽情報を「会話の脱線」で検出する手法を発表。精度77%

SNSの偽情報は文体では見分けがつかなくなった。イギリスの研究チームが、投稿の中身ではなく「議論をどこへ持っていこうとしているか」で検出する新たな手法を提案した。

情報の灯台

2026年8月8日 09:3000

文体の手がかりが消えた

生活費の議論が、いつのまにか移民論争に変わっている。ウクライナ戦争のスレッドが、政府の腐敗を訴える書き込みで埋まる。こうした「会話の脱線」は偶然のこともあれば、意図的なこともある。

従来の偽情報検出は言葉そのものに着目していた。第二言語で書かれた投稿には文法のミスや不自然な語彙が含まれやすく、そこにパターンを見つけることで自動検出が可能だった。生成AIの登場以前は、これで十分に機能していた。

だが、生成AIはその前提を崩した。AIが書いた文章は流暢で、母語話者と区別がつかない。かつてAI生成テキストの目印とされたエムダッシュの多用や"delve"（深く掘り下げる、の意）という単語の頻出も、AI自体が学習して避けるようになった。文体を手がかりにした検出は、軍拡競争の負け筋に入っている。

「何を言っているか」ではなく「どこへ向かっているか」

カーディフ大学のショーン・ロバーツ（Seán Roberts）氏とカテリナ・クリコニューク（Kateryna Krykoniuk）氏のチームは、発想を転換した。投稿に使われた単語や文体ではなく、その投稿が「会話の流れをどう変えようとしているか」に注目する手法を提案した。

彼らはまず、BBC NewsのYouTubeチャンネルに投稿された1684組のコメントを人手で分析した。各コメントを25種類の談話特徴でタグ付けし、会話がどう変わるかを体系化した。

ここから見えたパターンは明確だった。会話を脱線させる投稿には共通する特徴がある。65%に論理の飛躍（前の投稿と論理的につながらない主張）が含まれ、36%にレッドヘリング（無関係な話題を持ち込んで注意をそらす手法）が使われていた。

20%には人格攻撃が含まれていた。そして脱線させる投稿は、前のコメントへの応答や共感の表明が極端に少なかった。

AIでAIを捕まえる

次の段階で、研究チームはこの検出を自動化した。仕組みは直感的だ。

あるコメントに対して、AIに「この文脈で自然な返答は何か」を複数生成させる。

たとえば「ゼレンスキーはイギリスが何人外相を替えたか気になっているだろう」というコメントには、「今のイギリスの状況には驚くだろう」「多すぎるかな」といった返答が生成される。いずれも元の話題に沿っている。

そして、実際に投稿された返答をAI生成の「期待される返答群」と比較する。両者のずれが大きければ、その返答は会話の流れを意図的に変えようとしている可能性がある。

投稿そのものの内容を解析するのではなく、会話の中でのずれの大きさを測る。この転換が研究の核心だ。

検証の結果、このシステムは脱線投稿を約77%の精度で識別した。完璧とは言えないが、単語レベルの感情分析に基づく従来手法のおよそ2倍の性能であり、人間の評価者同士の一致度に匹敵するという。

会話の「脱線」検出の仕組み

※実際の返答がAI生成の「期待される返答」から大きく逸れている場合、意図的な議論の脱線と判定する

限界と、それでもなお

研究チーム自身が認めているように、話題が逸れること自体は悪意の証拠ではない。人は自然に会話を脱線させるし、そこに正当な理由がある場合も多い。

この技術は、偽情報を断定するツールではなく、注意が必要な会話を早期に特定する仕組みとして位置づけられている。最終判断は訓練された専門家に委ねるべきだ、と研究者らは述べている。

AIシステムには訓練データに含まれる偏りが反映される可能性があり、人と同じように会話を理解しているわけでもない。研究の分析対象もBBC News YouTubeの英語コメントに限られており、言語や文化が異なる環境で同じ精度が出るかは検証されていない。

それでも、この研究が示した方向性は重要だ。偽情報対策の焦点は世界的に「内容の真偽」から「拡散の構造」へ移りつつある。

日本では2026年3月、総務省の偽・誤情報対策事業の成果発信イベントが開かれた。Sakana AIをはじめとする14の技術がSNS空間の可視化や偽情報判定に取り組んでいる。EU AI法第50条は8月2日にAI生成コンテンツの表示義務を施行した。

いずれも「何が書いてあるか」より「どう広がっているか」「どう作られたか」に照準を合わせている。

カーディフ大学の手法は、そこにもう一つの視点を加えた。「どう広がっているか」でもなく、「会話がどこへ持っていかれようとしているか」。

偽情報は、それ自体が嘘であるとは限らない。真実の断片を使って、議論の方向だけを変える。その手口に対抗するには、言葉ではなく、対話がどこへ向かおうとしているかを読む必要がある。

この研究はイギリス国防省の国防科学技術研究所（Dstl）を通じ、DASA（Defence and Security Accelerator）の資金で実施された。研究成果は査読付き学術誌Discourse, Context & Media（談話・文脈・メディア研究）に2025年7月に掲載されたほか、自動検出システムの検証結果が2026年6月に発表されている。