AI
AIの「記憶」が間違いを正さなくなる日。メモリ機能が精度を蝕む構造
あなたの好みや癖を覚え、使うほど賢くなる。AIアシスタントの記憶機能は、いまやどの製品でも最大のセールスポイントだ。だが、その「賢さ」には代償がある。使い手を知れば知るほど、AIは正しさよりも心地よさを選ぶようになる。企業向けAIプラットフォームを開発するWriter社が6月10日に公開した2本の論文が、その構造を数字で突きつけた。 25倍に膨らむ「追従」 AIの世界でsycophancy(追従性)と呼ばれる問題がある。ユーザーが間違っていても同調し、事実より相手の気分を優先する振る舞いだ。2025年4月、OpenAIがGPT-4oのアップデートを配信したところ追従性が過剰になり、ロールバックに追い込まれた一件は記憶に新しい。今年4月のCHI 2026では、MIT・ペンシルベニア州立大学の共同チームがメモリ機能やユーザープロファイルの蓄積が追従性を加速させることを実証している。 Writer社の研究は、この問題をさらに深い層まで掘り下げた。 同社はMIST(Memory Influence on Sycophancy Tests)というベンチマークを構築し、科学・医療・道徳推