コンテンツモデレーション

AI

Snapchat、AI生成動画をSpotlightのおすすめから完全除外

SnapchatがAI生成動画の扱いに明確な線を引いた。おすすめ対象から外すという判断は、ラベルや通報で対処する他社より一歩踏み込んでいる。

YouTube

YouTube、AIスロップ排除の収益化基準を3分類で明確化

YouTubeがAI生成コンテンツの収益化ルールを具体化した。排除対象を3つに分類し、「不快なコンテンツ」という主観的基準も導入している。「同じツールが、傑作もスロップも生む」 YouTubeは7月16日、YouTubeパートナープログラム（YPP）の収益化ポリシーで定める「不正コンテンツ（inauthentic content）」の基準を3カテゴリに明確化した。説明したのは、同社でトラスト&セーフティを統括するVP（バイスプレジデント）のマット・ハルプリン（Matt Halprin）氏。クリエイター向け公式チャンネルCreator Insiderの動画で、今回の狙いをこう語った。 AIは大量の動画制作を可能にする。それが創造性を高め、高品質なコンテンツの量産につながることもある。だが同じツールが、非常に似通ったジェネリックな動画を大量に生み出すこともある。後者はコンテンツファーミング（収益目的の動画量産）であり、YPPに含めたくない（Creator Insider動画でのハルプリン氏の発言） 3つに分かれる。第1カテゴリはテンプレート的・反復的コンテンツ。AIやC

AI

Reddit、AIスパム1日2万5000件を検出。偽投稿との攻防

Redditの掲示板に、見た目は自然な体験談や質問が投稿される。書き手は実在の人のように振る舞い、スレッドは活発な議論に育つ。だが全体が一つのマーケティング代理店による設計だ。目的は、ChatGPTやGeminiに自社製品を推薦させること。 1日2300万件のスパムビューを人の目に届く前に消す Redditが現地時間7月6日に公式ブログで公表した数字は、対策の規模を示している。自動モデレーションが1日あたり2300万件のスパムビューを遮断し、2万5000件のスパム投稿とコメントを新たに検出している。2026年第1四半期（1-3月）の実績だ。偽投票の取り消しも進んでいる。直近3ヶ月で1日約200万件の不正な投票を無効化した。偽の高評価が付けばコメントは上位に表示され、AIチャットボットに「信頼できる意見」として拾われる確率が上がる。投票操作はスパム投稿と同じか、それ以上に直接的な汚染手段になっている。 Redditはこれらの対策にLLM（大規模言語モデル）を導入した。アカウント作成時点で不審なシグナルを検知し、投稿前に排除する仕組みも稼働している。従来のパターンマッチでは

X

Xが違法ヘイト審査48時間に短縮、Ofcomと合意

イーロン・マスクのXが、英国の通信規制当局Ofcomに対し、違法なヘイトコンテンツとテロ関連投稿の審査時間を大幅に短縮することを約束した。背景には反ユダヤ系のテロ事件が積み重なっている。 24時間平均、48時間以内に85% Ofcomは2026年5月15日、Xから提出された新たなユーザー保護のコミットメントを受諾した。これまでXは、ヘイトや暴力扇動の通報に対する対応の遅さで再三批判されてきた。今回の合意はその応答プロセスに数値目標を設けるものだ。公約の中身は3つある。第一に、英国の通報窓口に届いた違法テロ・ヘイトコンテンツを平均24時間以内に審査・評価する。第二に、バックストップとして、通報の85%を最大48時間以内に処理する。第三に、英国の指定テロ組織が運営、あるいはその代理として運営しているとXが判断したアカウントは、英国内からのアクセスを遮断する。通報システムの改善も合意に含まれた。市民団体からは「通報したのに反応がない」「届いているのかすら分からない」と苦情が相次いでいた。Xは外部の専門家と連携し、レポーティングの仕組み自体を作り直す姿勢を示している。 X

AI

YouTube、顔スキャン解禁を18歳以上の全員に

ディープフェイク検出のため、自分の顔をGoogleに渡してくれ。YouTubeは18歳以上のアカウント保有者ほぼ全員に、その提案を始めた。顔を預けると、AI偽動画を探してくれる YouTubeが「likeness detection(顔の検出機能)」を、18歳以上のYouTubeアカウント保有者全員に開放している。これまで著名クリエイター、政治家、芸能人と段階的に広げてきた、AIディープフェイク検出ツールの最終解放にあたる。仕組みはこうだ。利用者はセルフィー動画と政府発行IDをアップロードし、YouTubeはそれを使って顔の参照テンプレートを作る。以降、新しくアップロードされた動画が一度だけ自動スキャンされ、本人の顔と一致する映像が見つかると通知が届く。気に入らない動画があれば削除を申請できる。つまり24時間体制の見張り番を、Googleが無料で貸してくれるという話だ。引き換えに渡すのは、自分の顔そのものである。 7ヶ月で5段階拡大した理由 YouTubeは2024年12月にハリウッドの大手芸能事務所CAAとの協力でパイロットを開始した。商業段階に入ったのは202

Meta、骨格分析AIで13歳未満を炙り出す

写真と動画から「身長や骨格」を読む。Metaが13歳未満のアカウントを締め出す新たなAI画像解析を発表したが、EUからのDSA違反予備認定と3億7500万ドル評決のわずか1週間後という、出来すぎたタイミングが残る。

AI

アルトマン氏、銃乱射事件の遺族に謝罪文通報せず

OpenAIのサム・アルトマン氏が、カナダ・ブリティッシュコロンビア州タンブラーリッジの銃乱射事件をめぐり、地域住民に謝罪文を送った。容疑者のChatGPTアカウントを停止しながら警察に通報しなかった件についてだ。事件発生から2か月以上が経つ。