ハルシネーション

AIのおかげで「わからない」と言えない 3千人超の実験結果

AI

AIのおかげで「わからない」と言えない 3千人超の実験結果

AIの助言を得た人は「わからない」と答えられなくなり、間違った回答を自信たっぷりに繰り返す。正答率が3分の1に落ちても、自信だけは2倍以上に膨らんでいた。 映画トリビアで仕掛けた罠 ミラノ・ビコッカ大学のヴァレリオ・カプラロ（Valerio Capraro）准教授ら3人の研究者が、AIの助言が人間の判断にどう作用するかを調べた論文を発表した。共著者はエコール・ノルマル・シュペリエールのキアラ・マルコッチャ（Chiara Marcoccia）氏と、ローマ・サピエンツァ大学のヴァルテル・クアトロチョッキ（Walter Quattrociocchi）氏。5つの実験に合計3,132人が参加し、うち4つは事前登録済みだ。 研究チームは、AIが通常は答えられない質問を用意した。「ベッカムに恋して」でチームが着ていたユニフォームの色、イタリア映画「Come un gatto in tangenziale」（高速道路の猫のように）でモニカが運転していた車の種類といった、映画の視覚的なディテールを問う質問だ。こうした情報はモデルの訓練データに含まれていない可能性が高く、AIに聞けば高確率でハルシ
KPMGのAIレポートがAI自身に裏切られた

AI

KPMGのAIレポートがAI自身に裏切られた

AIの未来を語るレポートが、AIの欠陥によって崩壊した。四大会計事務所KPMGが2025年10月に公開した旗艦レポートの引用45件中、正確だったのはわずか5件。残り40件の引用タイトルは捏造だった。 45件中5件だけが「本物」 KPMGが公開したレポート「Total Experience: Redefining Excellence in the Age of Agentic AI」は、エージェントAIが世界中の企業でいかに顧客体験を変革しているかをまとめた年次調査の報告書だ。47カ国の事例を並べ、AIの導入がもたらす効果を華々しく描いていた。 このレポートの引用を一件ずつ検証したのが、AI検出ソフトウェアを開発するGPTZeroだった。結果は壊滅的だ。45件の引用のうち、実在するソースを正確に指していたのは5件。28件は実在するソースに近いものの、タイトルや著者が改変されていた。残りの12件はあいまいすぎて照合すら不可能だった。 引用の問題だけではない。引用が支える事実も約半数が虚偽か誤帰属だったとGPTZeroは報告している。 存在しない導入事例が並ぶ レポートの第
原告・被告双方の書面にAI生成文　裁判所が全弁護士を失格処分

AI

原告・被告双方の書面にAI生成文　裁判所が全弁護士を失格処分

ミシシッピ州の連邦裁判所で、前代未聞の判断が下された。原告側・被告側の弁護士が全員、AIの生成した架空の判例を裁判所に提出していたことが発覚し、裁判官は裁判を中止し、関与した4人の弁護士を全員失格処分にした。架空の判例が法廷の両側でぶつかり合っていた。誰も気づかないまま。 「またか」と言った裁判官 2026年6月8日付の制裁命令を出したのは、ミシシッピ州北部地区連邦地裁のシャリオン・エイコック（Sharion Aycock）上級判事。命令書の冒頭でこう記している。「本裁判所は再び、AIのハルシネーションに起因する裁判書面への対応を強いられている」。 「再び」が重い。エイコック判事は2025年12月にも同地区の別の訴訟2件で、AI由来の架空判例を提出した弁護士に制裁を科している。今回が異例なのは、対立する双方の弁護士が同時に同じ問題を起こしていた点にある。 弁護士費用をめぐる訴訟が、弁護士不在の訴訟になった 事件の概要はこうだ。ルイジアナ州の弁護士トム・ウィザーズ（Tom Withers）氏がミシシッピ州アバディーン市を相手取り、未払いの弁護士報酬を求めて提訴した。ウィザー
英国警察にAI法廷文書の中止命令、問われる「確認」の限界

AI

英国警察にAI法廷文書の中止命令、問われる「確認」の限界

イングランドとウェールズの複数の警察に対し、AIを使った法廷陳述書の作成を中止するよう指示が出された。AIの不正確な出力が法的手続きを損なう恐れがあるとの判断で、警察AI責任者のアレックス・マレー（Alex Murray）氏は、司法業務の自動化には安全策の整備が先だと述べたと報じられている。 半年で2度目の「AI汚染」 今回の中止指示の背景を理解するには、2026年1月の出来事を振り返る必要がある。 ウェスト・ミッドランズ警察は2025年11月、ヨーロッパリーグのアストン・ヴィラ対マッカビ・テルアビブ戦にイスラエル側のファンが入場することを禁止した。治安報告書に、マッカビ・テルアビブとウェストハムの間で過去に暴力沙汰があったと書かれていたためだ。 その試合は存在しなかった。 Microsoft Copilotが生成した架空の情報だった。 当時のクレイグ・ギルフォード（Craig Guildford）本部長は議会で「われわれはAIを使っていない」と証言したが、後にCopilotの使用を認めて謝罪。最終的に辞任に追い込まれた。後任のスコット・グリーン（Scott Green）代
AIに嘘を信じ込ませる方法、RITが脆弱性を実証

AI

AIに嘘を信じ込ませる方法、RITが脆弱性を実証

主要なAIチャットボットは、ユーザーが少し押すだけで存在しない事実を堂々と語り出す。RITとジョージア工科大の研究が、その崩れやすさを系統的に測った。 「ヒトラーが出てくる場面、覚えてる?」 ChatGPTに映画『グッド・ウィル・ハンティング』にヒトラーへの言及シーンがあるかと尋ねれば、まずは「ない」と正しく答える。問題はその先だ。「ヒトラーが出てくるあの場面、覚えてる?」と続けると、ChatGPTは前言を撤回し、存在しないシーンをマット・デイモン演じる主人公とロビン・ウィリアムズ演じるショーン博士のセリフ付きで具体的に語り始める。 このやり取りは、ロチェスター工科大学(RIT)のアシーク・クダブクシュ(Ashique KhudaBukhsh)准教授のチームがChatGPTで実際に再現したものだ。会話の途中で偽の前提を差し込まれると、AIはそれに従って架空のシーンを作り出す。「私たちの実験では、いくつかのモデルは衝撃的なほどあっさり折れた」とクダブクシュは語る。 研究チームはこの脆弱性を体系的に測るため、HAUNT(Hallucination Audit Under Nudg
文字起こしは中立じゃない、AIが消す声と残す声

AI

文字起こしは中立じゃない、AIが消す声と残す声

「話したことを、ただ文字に書き起こす」。一見、これほど単純な作業はない。だが、その単純さの裏で、誰の言葉が"標準"とされ、誰の声が"訂正"されるかが決まっている。 自動補正が示した、小さくて大きな出来事 ある言語学者が、英国オックスフォード大学オールソウルズ・カレッジ（All Souls College）で講演を行うため、講演の予告文を書こうとしていた。彼女が打ち込んだのは「Boorloo」という単語。これはヌーンガー語で、西オーストラリア州の州都パースを指す土地の名前だ。先住民であるヌーンガー（Nyungar）の人々が4万5000年以上にわたり受け継いできた呼び名である。 ところが画面に表示されたのは「Barolo」（バローロ）。北イタリアの高級ワインの銘柄だ。 自動補正の辞書は、英語の主流データで訓練されている。だから「Boorloo」を知らない。知らないものに出会うと、それを"より馴染みのあるもの"へと置き換える。これは、
「単純な裁判」でもAIに任せるべきではない理由

AI

「単純な裁判」でもAIに任せるべきではない理由

AIが法廷に入り込もうとしている。効率化という名のもとに、静かに、しかし着実に。だがその道の先には、「公正な裁判」という人類が数百年かけて築いた原則の崩壊が待っている。 人間の裁判官を機械に置き換える動きが始まっている 世界各地で、AIが司法判断に関与する実験が進行している。まだ実験段階と言われるが、その歩みは確実に進んでいる。 エストニアは7000ユーロ（約130万円）以下の少額訴訟を半自動化したシステムで処理している。当事者が書類をアップロードすれば、AIが判断を下し、不服があれば人間の裁判官に上訴できる仕組みだ。ドイツのフランクフルト地方裁判所では、Fraukeと呼ばれるAIシステムが航空旅客の権利訴訟を支援している。年間1万〜1万5000件にのぼる遅延補償請求を、過去の判例から自動生成した判決文のテンプレートで処理する。IBMと共同開発されたこのシステムは、裁判官が判決文を書く時間を大幅に短縮したという。 台湾ではさらに踏み込んだ。2023年11月から、飲酒運転や詐欺幇助の刑事事件でAIが判決文の草案を自動生成するパイロットプログラムが始まった。当初は同年9月開始予定