Teams会議に「通報ボタン」。ディープフェイク詐欺への対抗策
AIで合成された顔と声が、ビデオ会議に紛れ込む時代になった。Microsoftがこの脅威に対して最初に打った手は、検出アルゴリズムではなく「人の直感」に頼ることだった。
AIで合成された顔と声が、ビデオ会議に紛れ込む時代になった。Microsoftがこの脅威に対して最初に打った手は、検出アルゴリズムではなく「人の直感」に頼ることだった。
2560万ドルが消えた会議
2024年1月、英国のエンジニアリング大手Arup（アラップ）の香港オフィスで、財務担当者がビデオ会議に参加した。画面にはCFOと複数の同僚が映っている。CFOは秘密の取引に関する送金を指示し、担当者は15回に分けて5つの口座に合計約2億香港ドル（約2560万ドル）を送金した。
数週間後、すべてが偽物だったと判明する。CFOも同僚も、全員がAIで生成されたディープフェイクだった。
声が聞こえる、顔が見える、複数人がいる。人が「本物だ」と判断する手がかりのすべてが、AIで再現可能になっている。
Microsoftが見ている数字
Microsoftは2025年4月に公開した脅威レポート「Cyber Signals」（サイバーシグナル）第9号で、AIを悪用した詐欺の規模を明らかにしている。
2024年4月からの1年間で、同社は40億ドル相当の詐欺を阻止した。1時間あたり約160万件のボット登録をブロックし、49,000件の不正なパートナー登録を拒否している。
レポートは、AIツールが詐欺の技術的な障壁を引き下げたと指摘する。攻撃者はウェブ上の公開情報から企業の組織構造を収集し、社員の詳細なプロフィールを構築できる。公開されている音声データが十分にあれば、声のクローンまで作れる。
この種の攻撃は世界規模で発生しており、活動の中心は中国と欧州、とりわけEU最大の電子商取引市場であるドイツだとMicrosoftは分析している。
通報ボタンという選択
こうした状況を受けて、MicrosoftはTeams会議に新機能を追加する。会議中の画面に表示される「Report a concern」（懸念事項を報告する）ボタンから、不審な活動を組織のセキュリティチームに直接通報できる。
対象となる脅威カテゴリは、フィッシング、なりすまし、詐欺、ソーシャルエンジニアリング、その他のセキュリティ上の懸念だ。通報すると、会議のメタデータと限定的な文脈情報が収集・保存される。
ここで注目すべきは、通報の送り先だ。この情報はMicrosoftに送信されるのではなく、組織の管理者に届く。
Teams管理センターで報告を確認でき、Microsoft Defender for Office 365を導入している組織では、Defenderポータルからより詳細な調査を行える。自組織のセキュリティチームが対応する設計だ。
機能は初期設定で有効化される。管理者による事前の設定は不要で、利用者は会議中にいつでも通報を送信できる。
Microsoftはこの機能を「検出」ではなく「通報」として実装した。ディープフェイクの自動検出はまだ信頼性の課題を抱えている。2026年の時点で、サードパーティ各社がTeams向けのリアルタイム検出ツールを競って開発しているが、いずれも精度と誤検知のバランスに苦心している。
自前の検出エンジンを出さず、参加者の判断をセキュリティ情報として吸い上げる仕組みを選んだこと自体が、自動検出がまだ実戦に耐えないという判断の表れだろう。
もう1つの防衛線、ボットの排除
通報機能と並行して、Microsoftは外部ボットの管理機能も強化している。
Teamsの会議には、議事録作成や要約を行うAIボットが参加できる。業務効率化には役立つが、参加者が知らないうちに会議に入り込み、会話を記録して外部のクラウドに送信するリスクもある。6月末に一般提供が始まったボット保護機能では、Teamsが外部ボットを自動で検出し、ロビーに隔離する。
ロビーの待機列は2つに分かれる。「確認済み」の参加者と、「疑わしい脅威」と判定されたボットだ。
主催者がボットの参加を承認するには、ワンクリックではなく確認プロンプトを経る必要があり、「全員を許可」を選んでもボットには別途承認が求められる。うっかり通してしまわないよう、わざと手間がかかる設計になっている。
管理者にはポリシーとして3つの選択肢がある。検出時に承認を要求する（初期設定）、ボットを完全にブロックする、検出自体を無効にする。
8月に展開されるアップデートでは、ブロック設定が追加され、検出されたボットはロビーにすら入れなくなる。Android、デスクトップ、iOS、Mac、ウェブの全プラットフォームが対象だ。
この機能の展開に伴い、従来のCAPTCHA認証は8月末までに廃止される予定だ。CAPTCHAはボットが参加者になりすます状況には対処できておらず、より構造的な検出と隔離の仕組みに置き換わる。
2024年1月 Arupの香港オフィスで詐欺被害 ディープフェイクCFOに2560万ドルを送金 2025年4月 Microsoftが脅威レポートを公開 AIを悪用した詐欺40億ドルを阻止と報告 2026年6月 Teamsのボット保護が一般提供開始 外部ボットの検出・ロビー隔離が可能に 2026年8月 会議中の通報機能を追加 不審な参加者をDefenderに直接報告 2026年8月末 CAPTCHA認証が廃止予定 ボット検出の新方式に完全移行 |
主催者の肩に載っている重荷
2026年3月にはGoogle Meetも同様の問題に取り組み、参加リクエストをリスクレベルで2つのキューに自動分類する機能を導入した。Teamsの今回のアプローチもキューの分離という点では似ているが、Defenderとの連携で通報を「セキュリティインシデント」として扱える点に差がある。
とはいえ、どちらの設計にも共通する構造的な課題がある。最終判断が主催者に委ねられていることだ。
1日に何十件もの会議をこなす組織で、主催者がロビーの全員を精査し、ボットを見分け、怪しい参加者を通報する。その認知負荷を引き受けられる前提は、どこまで現実的なのか。
Arupの事件で被害者になった担当者も、最初は疑念を抱いていた。それでもビデオ会議の映像を見て、上司の声を聞いて、送金した。
人の判断力には限界がある。その限界を補うために技術があるはずだが、技術がまだ追いついていないから人に頼る。その循環を断ち切る手段が見つかるまで、通報ボタンは最善手であり、同時に暫定的な答えでもある。
