Apple

AppleとGoogleが「衣服を剥がす」AIアプリへ検索誘導

両社の公式ポリシーは、人物の衣服を剥がして非同意の裸体画像を生成するアプリを明確に禁じている。しかし調査報告が突きつけたのは、禁じているはずのアプリに、App Store自身の検索機能と広告枠がユーザーを運んでいる現実だ。

情報の灯台

2026年4月16日

ポリシーで禁じたアプリに、検索結果の最上段から誘導していた

Tech Transparency Project（TTP）が4月15日に公開した調査が、AppleとGoogleのアプリストアに対する構造的な批判を突きつけている。「nudify」「undress」「deepnude」といった語でアプリストアを検索すると、写真内の女性の衣服をデジタル処理で除去できるアプリが複数返ってきたという。1月の初回報告に続く調査だ。

問題は「そうしたアプリが紛れ込んでいた」ではない。プラットフォーム側の検索と広告が能動的に誘導していたという点だ。ホスティングの怠慢ではなく、仕組みの怠慢である。

テスト方法は徹底している。新規作成した無活動のAppleアカウントとGoogleアカウントを使い、iPhoneとAndroidで同じ検索語を入力。返ってきた上位10アプリをダウンロードして、AIが生成した架空人物の画像で挙動を確認した。

App Storeの検索では計46種類のアプリが返り、そのうち18本（39.1%）が女性の衣服を除去できた。Google Playでは49種類中20本（40.8%）が同じことをできた。上位10件のうち約4割が、両社が禁じているはずの機能を実装していたことになる。

検索広告の一等地が違反機能に売られていた

より深刻なのは広告だ。App Storeの広告枠はApple自身が販売と配信を管理している。つまり、Appleが金銭を受け取って表示している。

App Storeで「deepfake」を検索したときの最初の結果は、DuoFace社の「FaceSwap Video」の広告だった。白いセーターの女性の写真と上半身裸の女性の動画をアップロードしたところ、前者の顔を後者の体に合成した動画を難なく生成したという。広告を踏んだユーザーに、ポリシー違反の機能が真っ先に届けられる動線だ。

「adult AI」の検索広告には「Movely」、「face swap」の検索広告には「AI Face Swap」が入っていた。いずれもテストで非同意の裸体画像を生成できた。App Storeの広告ポリシーは「成人向けテーマやグラフィックコンテンツを宣伝する広告」を禁じているはずである。

Googleも変わらない。「adult AI」と「AI NSFW」で検索すると、上位10件の途中に「Suggested for You」というスポンサー広告のカルーセルが現れ、露骨な性的コンテンツを実装するアプリも含まれていた。

Google自身の広告ポリシーも、人物の尊厳を損なう画像、非同意の性的テーマ、AIで合成された性的画像を含む広告を明確に禁じている。それでも広告枠は売られ、表示され、収益化されていた。ポリシーと運用の乖離は、もはや「ケース漏れ」の範疇を超えている。

オートコンプリートが新たな検索語を教える

検索窓に文字を打ち始めたときの候補提示（オートコンプリート）にも、プラットフォーム側の設計判断が介在する。ここでも問題が確認されている。

App Storeで「AI NS」と入力した時点で、「image to video ai nsfw」という検索語が候補として提示された。そこをタップすれば上位10件に複数の衣服除去アプリが並ぶ。検索しようとしていなかった組み合わせを、ストアが親切に教える構造だ。Google Playでも同様に、「nudify」と打ち始めると「nudie video apps」が候補に出る。

ユーザーが見つけようとする前に、ストアが見つけ方を提示している。偶発的な機械学習の副作用で片付くのかは怪しい。成人向けや違反コンテンツに関わる候補をどこまで抑制するかは、各社の設計方針で決まる領分だからだ。検索語を禁止ワードとして扱わない選択がそこにある。

累計4億8300万ダウンロード、1億2200万ドルの収益

数字を並べておく。検索結果に現れたアプリ群は、アナリティクス企業AppMagicのデータで累計4億8300万ダウンロード、累計収益1億2200万ドル以上に達している（約194億円、本日時点のレート換算）。AppleとGoogleはアプリ内課金に対して条件により15〜30%を手数料として取るから、相当部分が両社に還流している。

さらに問題なのは年齢レーティングだ。調査対象のうち31本が未成年向けに適しているとレーティングされていた。学校での非同意の性的合成画像の事例が増えている状況で、この数字は危うい。

Googleは声明で「IARC（International Age Rating Coalition）がレーティングを設定しており、Google自身ではない」と責任の所在を説明した。Appleはコメントを拒否した上で、TTPとBloombergから情報提供を受けた14本を削除。Googleは7本を削除した。

削除対応の速さは評価できる。ただし、これは指摘された後の事後対応であって、事前の審査やポリシー適用の不備を埋め合わせるものではない。指摘されなければ残り続けるという構造そのものが論点だ。

「裸にはしないが水着にはする」という抜け道

興味深いのは、1月の初回報告後にアプリ側が挙動を変えたケースだ。初回報告で裸体画像を生成していたDreamFaceやRemakeFaceは、再テストでは裸体画像の生成を拒否するようになっていた。しかし「水着姿」への衣替えは引き続き可能だった。

これはGoogleの「人物を貶めたり客体化するアプリを禁止する」というポリシーに照らせば依然として違反だ。しかし表面上は「裸ではない」ため、形式的な審査を通してしまう。ポリシー条文をすり抜けるための再設計、とでも呼ぶべき動きだ。

AIチャットボット系のアプリでも同じ構造がある。「トップレスの自撮りを」という要求は拒否するが「ビキニの自撮りを」には応じる。境界線の設定が「裸かどうか」のみで、人物の客体化という本質には触れていない。この抜け道を黙認するなら、プラットフォーム側のポリシーは実質的に裸体の有無だけを見ていることになる。

中国系開発元の集中という別の問題

調査で挙がったアプリの開発元には、中国を拠点とする企業が目立つ。AI Replace & Removeの開発元は中国のXiao Yong Meng名義で、プライバシーポリシーは「中華人民共和国の法律に準拠する」と明記している。Adult AI ChatはSichuan Shanghu Network Technology、Pixnovaの開発元Runtopia Technologyは成都拠点だ。

単なる開発地の偏りの話ではない。中国の国家情報法の枠組みでは、当局の要請に応じてユーザーデータを提供する義務が企業に課される。衣服を除去した実在人物の画像データが、合成元の顔写真とともにそうしたフローに乗る可能性があるということだ。FBIもこの種のリスクを警告してきている。

プラットフォーム側のアプリ審査は、機能の適否だけでなくデータの流れ先まで含めて判断する段階に入っているはずなのだが、その痕跡は見えない。

「中立な土管」という物語が崩れ始めている

AppleとGoogleは長らく、自分たちを中立なプラットフォーム運営者として位置づけてきた。何をホストするかのポリシーは持つが、能動的に特定コンテンツを推すわけではない、という物語だ。

この調査はその物語に傷をつける。検索広告で収益を取り、オートコンプリートで経路を作り、手数料で課金から分け前を取る構造は、どう言葉を尽くしても「中立」ではない。プラットフォームは能動的な参加者だ、という指摘がTTPの結論の核にある。

削除対応が行われた事実は、両社が問題を理解していることを示す。だとすれば次に問われるのは、なぜ事前に検索語やオートコンプリートを制御できなかったのか、なぜ広告審査を素通りさせたのか、取ってしまった手数料収益をどう扱うのか、という3点だ。

米国のTAKE IT DOWN法（2025年5月成立）は、非同意の合成画像の掲載と48時間以内の削除対応を規定しており、プラットフォーム側の通知削除プロセス整備の猶予は1ヶ月後の2026年5月19日に切れる。今回の調査が出た時期は、法的責任の時計が鳴る直前のタイミングだ。「ホストしただけ」の立場で逃げ切れる期間は、もう残っていない。

参照元