AI
Grokで児童の性的画像が大量生成された問題 1枚の写真から7000枚との調査
ワイオミング州の女性が、義父の犯行とAI企業の怠慢、そしてその後に残された地獄を初めて語った。
CSAM
Apple
Apple、TelegramをApp Storeから一時削除。理由は1件のCSAM
月間10億人超が使うメッセージアプリが、1ユーザーの投稿を理由に全世界のApp Storeから約40分間消えた。CSAM（児童性的虐待素材）への対処は当然だが、1社がアプリの生死を瞬時に決められる仕組みが改めて露わになった。
AI
xAI、Grokで児童性的虐待画像を生成したユーザーを提訴
xAIが訴える側に回った。Grokのディープフェイク問題で追及されてきた同社が、自社ツールを悪用したとするユーザーをテキサス連邦裁判所に訴えている。 訴状の中身 xAIは7月14日（現地時間）、テキサス州北部地区連邦裁判所にサウスカロライナ州の男性テリー・ウェイン・ハーウッド（Terry Wayne Harwood）氏を相手取る訴状を提出した。AI企業が自社ユーザーを児童性的虐待素材（CSAM）の生成を理由に提訴した、初めての事例の一つとなる。 訴状によると、ハーウッド氏は偽名で複数のxAIアカウントを開設し、成人や未成年を写した普通の写真をGrokにアップロードして性的なディープフェイクに加工しようとした。Grokがコンテンツモデレーションに基づいて要求を拒否すると、ハーウッド氏は指示の表現を変えて繰り返しセーフガードの回避を試みたという。 xAIは損害賠償（金額は未定）と、ハーウッド氏のプラットフォーム永久利用禁止を裁判所に求めている。 すでに逮捕されていた男 ハーウッド氏は67歳。今年2月26日、サウスカロライナ州ローレンス郡で逮捕されている。容疑は未成年の性的搾
EU
EUチャットコントロール案が再浮上 加盟国の反対状況と審議経緯
3月に一度否決された法案が、夏季休会直前の議場に戻ってきた。反対314、賛成276。反対が上回ったにもかかわらず、手続き上の壁に阻まれて否決が成立しなかった。欧州議会は7月9日、チャットコントロール1.0の復活を事実上認めた。 3月の否決、7月の復活 チャットコントロール1.0は、eプライバシー指令（EU域内の電子通信におけるプライバシーを保護する指令）の一時的な適用除外措置として2021年に導入された。オンラインプラットフォームに対し、CSAM（児童性的虐待コンテンツ）の自主的な検出・報告・削除を法的に許可する。スキャンの実施は義務ではなく任意だ。 この措置は本来、恒久法であるCSAR（児童性的虐待規制、通称チャットコントロール2.0）が成立するまでのつなぎとして設計された。2.0の議論が長引き、1.0は延長を重ねて存続してきたが、2026年3月26日の欧州議会本会議で延長が311対228で否決され、4月3日に失効した。 失効から3か月後の7月7日、欧州人民党（EPP）の主導で状況が動く。通常の立法手続きを経ずに再投票を強行できる「緊急手続き」（Rule 170）が331対
AI
Discord、チェス盤の画像で8400人を永久BAN。2か月間
Discordのコンテンツ安全システムにバグが2つ重なり、チェス盤やMinecraftのインベントリ画面を投稿しただけのユーザーが、児童性的虐待コンテンツの投稿者として永久追放されていた。 格子模様が有害コンテンツに化けるまで Discordは現地時間7月7日、自社のセーフティシステムに起因するバグで約8400のアカウントを誤って永久BANしていたと公表した。 This weekend, our safety systems incorrectly triggered and banned around 200 accounts. Everyone affected has been reinstated. Here's what happened. A thread 🧵 https://t.co/wXH32iiv8I — Discord Support (@discord_support) July 7, 2026 問題が始まったのは5月。2か月にわたって放置されたまま、直近の週末に約200件のBANが集中したことでようやく社内で異常に気づいた。 BANの理由とし
AI
英国NCAとIWFが保護者向けガイダンスを公開。学校脅迫の実例も
子どもの写真をSNSに投稿する行為が、AI画像生成の素材として狙われている。英国の国家犯罪対策庁（NCA）とインターネット監視財団（IWF）が、保護者向けのガイダンスを公開した。 学校サイトの写真が性的虐待画像に変わるまで 発端は英国の中等学校で起きた。犯罪集団が学校のウェブサイトやSNSから生徒の写真を収集し、AIで100件以上の児童性的虐待画像を生成した。学校に画像を送りつけ、公開すると脅して金銭を要求した。 IWFはこの画像のうち約150件を英国法上のCSAM（児童性的虐待素材）と判定し、デジタルフィンガープリントを作成してテクノロジー企業と共有した。拡散を防ぐための措置だった。 この事件は孤立した事例ではない。英国オンライン被害早期警戒作業グループ（EWWG）は、同様の手口で学校が標的になるのは「時間の問題」と警告している。 こうした脅威の拡大を受けて、NCAとIWFは2026年7月3日、保護者・養育者向けのガイダンスを公開した。 8029件の画像と動画。260倍に跳ね上がった動画 IWFの2025年実績報告によれば、同年に確認されたAI生成の児童性的虐待画像
Telegram
英Ofcom、Telegramを正式調査 児童虐待で遮断も
英通信規制当局Ofcom（オフコム）が、メッセージングアプリTelegramをオンライン安全法違反で正式調査する。ドバイ拠点のTelegramは「全面否定」と反発し、プラットフォーム対規制当局の正面衝突が始まった。 Ofcomが動いた理由は「カナダから届いた証拠」 今回の調査は、カナダ児童保護センター（Canadian Centre for Child Protection）から寄せられた児童性的虐待コンテンツ（CSAM）に関する証拠が直接のきっかけになっている。Ofcomは証拠を受け取った後、独自にプラットフォームを評価したうえで、Telegramが違法コンテンツに関する義務を履行しているか調査する決定を下したという。 注目すべきはOfcomの動き方だ。英オンライン安全法（2023年制定、2025年3月に義務が発効）に基づく執行が、すでに単発の警告から体系的な摘発フェーズへと移行している。今年に入ってからだけでも、OfcomはX（旧Twitter）のGrokによる児童性的画像生成疑惑を調査し、複数のファイル共有サービスにハッシュ照合技術の導入を迫ってきた。Telegramはそ
AI
世界90校でAIディープフェイク被害 未成年600人超が対象との調査
たった1枚の写真から、未成年の「ありもしない姿」が生成される。WIREDとIndicatorの共同分析が突きつけた数字は、大人たちの想像をはるかに超えていた。