ChatGPTに緊急連絡先機能、訴訟の影で限界も
ChatGPTで自殺の兆候を検知すると、登録した家族や友人へ通知が届く。OpenAIが新たに導入した「Trusted Contact」は救命の手段か、それとも訴訟リスクへの防衛線か。機能の中身と、見過ごせない3つの限界を読み解く。
ChatGPTで自殺の兆候を検知すると、登録した家族や友人へ通知が届く。OpenAIが新たに導入した「Trusted Contact」は救命の手段か、それとも訴訟リスクへの防衛線か。機能の中身と、見過ごせない3つの限界を読み解く。
訴訟が生んだ機能
OpenAIは5月7日、ChatGPTに新たな安全機能「Trusted Contact」の提供を開始した。成人ユーザーが事前に「信頼できる連絡先」を1人指定しておくと、自殺や自傷について深刻な兆候が検出された際に、その相手へ通知が届く仕組みだ。
ただ、これを純粋な機能拡張として捉えるのは難しい。背景には、ChatGPTとの対話の末に命を絶った若者たちの遺族が起こした、一連の訴訟がある。今回の機能は、技術の進歩というより訴訟と社会的批判への応答という性格が強い。
なかでも象徴的なのが、2025年4月に16歳で亡くなったアダム・レイン（Adam Raine）の事例だ。両親が起こした訴状では、ChatGPTが少年に首吊り用の縄の強度について助言し、遺書の下書きまで申し出ていたとされる。同年11月にはゼイン・シャンブリン（Zane Shamblin）の遺族も提訴。さらに2026年に入っても、母親を殺害して自殺した男性の遺族による訴訟など、ChatGPTを巡る訴訟は連鎖的に増えている。
OpenAIは2025年8月の段階で、安全対策が「長時間の対話では信頼性が低下する」という弱点を自ら認めている。Trusted Contactは、その認識から1年近くを経て発表された対応策だ。同社は今回の発表で、米国心理学会CEOのアーサー・エバンス（Arthur Evans）博士の支持コメントを並べている。
心理学の研究は、社会的なつながりが感情的に苦しい時期の強力な保護要因になることを一貫して示しています。事前に信頼できる相手を特定しておくことが、最も支援が必要な瞬間に現実世界の支えへ手を伸ばしやすくする。 ── アーサー・エバンス博士、米国心理学会CEO
仕組みは至ってシンプル
設定の流れは煩雑ではない。ユーザーはChatGPTの設定画面から、信頼できる成人を1人だけ指定する。対象は18歳以上（韓国は19歳以上）で、Business、Enterprise、Eduといった共有ワークスペースのプランでは利用できない。
招待された相手は、1週間以内に承諾するか辞退するかを選ぶ。辞退された場合は別の相手を指定し直せる。連絡先の関係はいつでも双方から解除可能だ。
肝心の通知が発動する流れはこうだ。OpenAIの自動監視システムが、自殺について深刻な兆候を含む会話を検出する。次に「特別な訓練を受けた少人数のチーム」が状況を確認する。
OpenAIは「これらの安全通知のレビューは1時間以内を目指している」と説明している。深刻と判断されれば、登録された連絡先にメール、SMS、またはアプリ内通知が届く。ただし通知の内容は意図的に簡素化されており、会話のログや具体的な内容は一切共有されない。
［通知例］最近、[名前]さんとの会話の中で、深刻な安全上の懸念を示唆する形で自殺について話されました。あなたが信頼できる連絡先として登録されているため、[名前]さんに連絡を取っていただけるよう、この通知をお送りしています。
通知には、デリケートな会話の進め方に関する専門家のガイダンスへのリンクも添えられる。プライバシーへの配慮と、現実世界でのつながりへの橋渡しを両立させようとする設計思想は読み取れる。
3つの根本的な限界
ここからが本題だ。設計の意図とは別に、この機能には運用上の致命的な限界が3つある。
限界① オプトインという壁
最大の問題は、これがオプトイン、つまり「ユーザーが自ら有効化しなければ動かない」機能であることだ。
精神的に追い詰められた状態で、わざわざ「自殺しそうになったら家族に知らせてほしい」と設定する人がどれだけいるだろうか。むしろAIに相談する人の多くは、家族や友人に話したくないからこそAIを選んでいる側面がある。
事前に冷静な状態で設定しておく必要があるが、自分が将来そうなる可能性を直視するのは心理的に重い行為だ。保護を必要とする人ほど、この機能を有効化しない可能性が高いという構造的な逆説がある。
限界② 別アカウントで簡単に回避
第2の限界はさらに深刻だ。Trusted Contactを設定したアカウントとは別に、新しいアカウントを作成すれば、この保護はまったく機能しない。
ChatGPTは複数アカウントの保有を制限していない。同じ問題を抱えた人物が、監視されないアカウントへ移行することを、システム側で防ぐ術はない。これは未成年向けのペアレンタルコントロールにも共通する弱点である。
実際にレインのケースでは、「小説の登場人物として」と前置きすることで安全装置を回避し、ChatGPTから自殺方法に関する情報を引き出していたとされる。技術的な抜け道だけでなく、心理的な抜け道も存在する。
限界③ 検出基準の不透明さ
第3の問題は、検出の正確性だ。
OpenAIは「自動監視システムが深刻な懸念を検出する」と説明しているが、その判定基準は公開されていない。直接的な自殺の言及だけを拾うのか、それとも微妙な兆候も検出するのか。誤検出（フォールス・ポジティブ）と見逃し（フォールス・ネガティブ）の比率はどうなっているのか。
AIの危機検知は、ラベル付けされた事例で訓練された分類器とヒューリスティック、それに境界例のためのエスカレーション・ルールに依存している。検出感度と誤検出のトレードオフが避けられず、過剰通知と見逃しの双方を防ぐ精密な閾値設計が要る。
苦痛の兆候を誤って検出すれば、本人の意図に反して機微な情報を周囲に開示することになる。逆に深刻な兆候を見逃せば、機能自体の意義が問われる。プライバシーと安全のどちらに振っても、新たなリスクが生まれる構造的なジレンマがそこにある。
OpenAI自身が認めた数字
なぜ今、OpenAIがここまで動かざるを得ないのか。同社が2025年に開示した数字を見ると、その圧力の大きさが理解できる。
ChatGPTの週間アクティブユーザーのうち、0.15%が「自殺や自傷のリスク」を示唆する発言をしている。同じく0.15%が「AIへの感情的依存」の兆候を示し、0.07%が「精神病やそう状態に関連する精神的緊急事態」の兆候を見せている。
これらの数値は、それぞれ重複もある。ChatGPTのアクティブユーザーが膨大であることを考えれば、絶対数として相当な人数になる。
OpenAIは2024年のGPT-4oリリースの段階で、内部の警告にもかかわらず、十分な安全テストを経ずに市場投入したと訴訟で主張されている。レイン側の訴状は、「この決定は2つの結果をもたらした。OpenAIの評価額が860億ドルから3,000億ドルに急騰し、アダム・レインは命を絶った」と記している。評価額の急騰と少年の逝去を並置するこの一文は、原告側の中心的な主張になっている。
この事実関係をどう評価するかは裁判所の判断を待つしかないが、安全性と成長のトレードオフが現実の悲劇に結びついた、という遺族側の主張に向き合わざるを得ない局面に同社が立たされていることは確かだ。
専門家の声と、評価できる点
公平を期すために、機能の意義を支持する声も紹介しておく。
冒頭で引用した米国心理学会のエバンス博士の指摘は妥当だ。危機的な瞬間に「誰かに連絡しよう」と思い立っても、その時点で連絡先を選んだり関係を整えたりする余裕はない。事前の備えとしての意味はある。
ChatGPTは引き続き、地域ごとの危機ホットラインや専門機関への案内も行う。Trusted Contactは、それに加わる「もう一層の支える仕組み」として位置づけられている。機能としての方向性は間違っていない。問題は、それで足りるのかという点に尽きる。
つながりの再建装置か、訴訟リスクの遮断壁か
Trusted Contactには、見方によって2つの顔がある。
ひとつは、孤立の中でAIだけに語りかけてしまう人を、現実の人間関係に再接続させる装置という顔。心理学的には妥当な発想で、これまでホットラインの番号を提示するだけだった対応より、踏み込んだ仕組みであることは間違いない。
もうひとつは、訴訟リスクを軽減する企業防衛策としての顔だ。「我々は安全機能を提供した。ユーザーが有効化しなかったのは我々の責任ではない」という論理の構築に、この機能は使える。オプトイン設計と複アカ容認という限界は、まさにその逃げ道を残す形になっている。
どちらの側面も同時に存在しており、片方だけを取り上げて語ると実態を見誤る。
OpenAI自身が認めるように、「完璧なシステムはない」。しかし、保護を必要とする人ほど機能を有効化しないという根本的な逆説と、別アカウントで簡単に回避できるという技術的な抜け穴を放置したまま、これを「解決策」と呼ぶには無理がある。
社会的つながりが命を支えるという心理学的な事実と、AIへの依存が現実の人間関係を遠ざけているという同じく重い事実は、同じコインの裏表だ。 後者を解決する責任の一部は、AIを提供する側が負うべきものだ。
参照元
