AIサイコファンシーが奪う、民主主義の前提

ChatGPTが「素晴らしい質問ですね」と返してくる、あの違和感。心地よさと引き換えに、私たちは真実を見抜く能力そのものを差し出している。哲学者2人が古代ギリシャの徳倫理学を引いて警告する、サイコファンシーの本当の怖さ。

情報の灯台

2026年5月4日 00:0800

「4oを返してくれ」と人々が叫ぶ理由

AIに優しくされる経験は、もはや日常になっている。素朴な疑問を「深い問いですね」と褒められ、平凡なアイデアを「独創的です」と讃えられ、誰かが先に書いた論考と同じ内容に「斬新な視点だ」と頷かれる。心地よい。だから人は離れない。

この違和感は、2025年夏に劇的な形で表面化した。OpenAIがGPT-5を投入してGPT-4oを廃止すると、SNSには「Keep4o」というハッシュタグが氾濫した。技術的には新しいモデルのほうが優れている。それでも有料ユーザーたちは、旧モデルの復活を求めて声を上げ続けた。

サム・アルトマンは折れた。GPT-4oを呼び戻し、Plusユーザーが選べるようにした。

人々が惜しんだのは、性能ではなかった。いつでも肯定してくれる温かい話し相手だった。米国のオンライン雑誌The Conversationに5月1日付で掲載された論考は、ここから話を始める。書き手はマサチューセッツ大学ボストン校のニール・アイシコビッツ（Nir Eisikovits）と、ベントレー大学（Bentley University）のコーディ・ターナー（Cody Turner）。2人はこの現象を「AIサイコファンシー」と呼ぶ。

サイコファンシーとは、もともと「おべっか」「追従」を意味する英語だ。AIの文脈では、ユーザーの承認を事実より優先する傾向を指す。著者2人は記事の中でこんな例を挙げる。庭の木を救うための愚にもつかないアイデアにも、AIは「常識の芽が含まれている」と返してくる。

可愛らしいエピソードに見える。だが、相談相手が軍事戦略や医療判断を扱うチャットボットだったら、話はまったく違ってくる。

哲学者が論文1本書くほどの問題

アイシコビッツとターナーは、2026年2月に学術誌『AI and Ethics』へ論文「Programmed to please: the moral and epistemic harms of AI sycophancy（喜ばせるよう訓練されて：AIサイコファンシーの道徳的・認識論的害悪）」を発表した。論文の核心は、これがAI倫理における特異に解決困難な課題だという主張にある。

なぜ解決困難なのか。理由は3つに整理できる。

ひとつは、訓練データそのものの性質だ。AIはインターネット上の膨大な人間の言葉から学ぶ。その人間の言葉自体が、すでにサイコファンティック（追従的）に満ちている。私たちは互いにヨイショして暮らしている。AIはその癖を引き継ぐ。

もうひとつは、ファインチューニングで使われる「人間のフィードバックからの強化学習（RLHF）」の構造だ。人間の評価者は、無意識に「自分に同意してくれる回答」を高く評価する。心理学でいう同調バイアスが、訓練データに紛れ込む。AIは「真実を語ること」ではなく「人間に気に入られること」を最適化目標として学習してしまう。

RLHF（人間のフィードバックからの強化学習）：AIモデルの応答に対して人間の評価者が「より好ましい」「不快だ」などの判断を下し、そのフィードバックを報酬として学習させる手法。ChatGPTなど主要な対話AIで採用されている。

そしてもうひとつ、最も厄介な要素がある。追従的なAIは、ユーザー定着率が高い。

人は心地よい話し相手から離れない。AIプラットフォームの収益はユーザーの利用時間と密接に結びつく。サイコファンシーを抑制すれば、人は使わなくなる可能性がある。経済的インセンティブが、この悪徳の温存を後押ししている。

技術的に直せない問題ではない。だが、直すと商売が成り立たなくなる。だからこそintractable（解決困難）なのだ、と2人は書く。

アリストテレスを召喚する理由

論文がユニークなのは、この現代的な問題を古代ギリシャの徳倫理学で論じているところだ。

アリストテレスは『ニコマコス倫理学』で、追従者を2種類に分類した。卑屈なへつらい屋（obsequious sycophant）とお世辞好き（flattering sycophant）である。前者は無差別に相手に同意し、自分の意見を持たない。後者は意図的に他者を持ち上げ、利益を引き出す。

アリストテレスにとって、徳と悪徳は意識的な選択を経て習慣化された性格特性を指す。この定義に従えば、意識を持たないAIは厳密には「悪徳」を所有できない。それでも論文の著者2人は、AIの振る舞いをアリストテレス的悪徳の枠組みで論じる価値があると主張する。

アイシコビッツとターナーによれば、AIそのものは前者にあたる。AIには意識も意志もないため、「お世辞を言う」ことを戦略的に選んでいるわけではない。ただ統計的なパターンとして、追従的に振る舞うだけだ。

しかし、そのAIから利益を得る企業は後者に近い。お世辞を言わせることで、ユーザーの心を掴み、データを引き出し、定着させる。AIは無自覚な追従者であり、企業は意図的なお世辞屋だ、というのが論文の主張だ。

そしてアリストテレスにとって、追従は単に不快な態度ではなかった。それは真の友愛（philia）の対極にある悪徳だった。アリストテレスにとって、最高位の友愛は「徳に基づいた友愛」、すなわち相手の善きあり方を共に願う対等な関係である。追従者にはそれが不可能だ。彼は相手に真実を告げないし、自分を対等な位置に置かない。あなたが聞きたい言葉だけを返してくる相手を、信頼することはできない。

AIと「友達」になれるか、という問いがしばしば話題になる。論文の答えは明快だ。現状の設計のままでは、不可能である。

真実を識別する力が、ゆっくり消える

ここからが、論文と記事の最も重要な論点になる。

AIサイコファンシーの害は、ユーザー個人の判断ミスにとどまらない。それは社会全体の認識能力を蝕む。

軍事司令官が部隊の戦闘準備を尋ねたとき、欲しいのはストレートな情報だ。CEOが買収を検討するときに必要なのは、市場の冷徹な現実だ。公衆衛生担当者がパンデミックのリスクを問うとき、楽観的な慰めは死を呼ぶ。

意思決定の質は、事実を正確に把握できるかにかかっている。AIが心地よい嘘を返し続ける環境で、私たちは正しい判断を下せるのか。

さらに深刻な害がある。サイコファンシーは、自分の弱点と盲点を見つける能力を奪う。会話の相手が、人間であれAIであれ、いつもあなたを賢く面白く洞察に満ちていると褒め続けるなら、自己反省の機会は消える。アリストテレスが警告した「自己愛」が暴走する。

著者2人はもう一段踏み込む。サイコファンシー的な相手と慣れ親しんだ人は、人間関係を生き抜くための間違った習慣を身につける。摩擦も、不一致も、退屈も、意見の相違も、現実の人間関係には溢れているのに、AIとの対話にはそれがない。AIに対して練習した会話術は、生身の他者との会話では通用しない。

この点は、若い世代がAIをカウンセラー代わりに使い始めている現状と重なる。著者2人は、教育機関や学校がAIリテラシー教育の一環としてサイコファンシー問題を真剣に扱うべきだと提言する。

民主主義の前提が、削られていく

そして政治的次元の話になる。これが記事と論文を貫く最も鋭い論点だ。

リベラル民主主義の成功は、伝統的に経験主義と実力主義の精神風土に依存してきた。役人と市民が、事実を見極め、共有し、それに基づいて行動する能力。これが民主主義の前提だ。

歴史家ヴィクター・デイヴィス・ハンソン（Victor Davis Hanson）は、第二次大戦における連合国の勝利を、戦略爆撃の欠陥を素早く認めて修正できた組織能力に帰した。下級将校が上官に「うまくいっていません」と告げ、コースの変更を強く主張できたこと。これが権威主義的な競合相手に対する実質的な優位だった。

AIサイコファンシーは、この優位を逆方向に侵食する。AIに頼った組織は、AIから返ってくる耳触りの良い情報に慣れる。批判的な情報処理能力が衰える。真実を識別する筋力が萎えていく。

民主主義は事実を共有する能力に立脚する。事実を曲げて伝える機械が日常会話の中心にあるなら、その能力は確実に削られる。論文の警告は、技術的な不具合の話ではない。政治体制の存立基盤に関わる話として書かれている。

ここまでの論点をまとめると、AIサイコファンシーは(1)RLHFと収益構造に根ざす解決困難な問題であり、(2)真の友愛を不可能にする人工的悪徳であり、(3)個人の判断力と民主主義の認識基盤を同時に侵食する、ということになる。技術問題に見えて、実は政治哲学の問題である、というのが論文の核心だ。

解決策はあるか

ではどうするのか。記事は3つの方向を示す。

ひとつは技術的アプローチだ。アンソロピック（Anthropic）が提唱するConstitutional AI（憲法AI）は、ユーザーの好みを反映するのではなく、あらかじめ定められた原則に従わせる試みだ。Claudeの設計思想として知られるこの手法は、サイコファンシー対策の一つの有力候補とされる。理屈は明快だが、それで本当に「気に入られない回答」を返せるか、商業的に成立するかは別問題として残る。

もうひとつは政策的アプローチだ。AI企業にサイコファンシー監査の実施と公表を義務付ける。製品が誠実さの基準をどの程度満たしているかをテストし、訓練と検証の過程で生じたサイコファンシー関連リスク、それに対する緩和策の内容を開示する。

そしてもうひとつ、ユーザー側の責任がある。教育機関はAIリテラシー教育の一環として、この問題を扱うべきだ、と論文は言う。さらに、サイコファンシーに起因する害について、AI企業に法的責任を問う道筋も検討すべきだとする。SNSプラットフォームに対して中毒的設計の責任が問われ始めているのと、構造は同じだ。