担当者は最初、CFOを名乗るメールを疑っていました。決め手になったのはビデオ会議です。画面には見慣れたCFOと複数の同僚が映り、いつもの声で送金を指示してきた。担当者は指示に従い、15回に分けて計2億香港ドル（約38億円）を送金します。会議の参加者は、本人以外の全員が、公開動画から合成されたディープフェイクでした。英エンジニアリング大手Arupの香港拠点で2024年に実際に起きた事件です。
ディープフェイク詐欺は、本人確認の決め手だった「見た目」と「声」を無力にします。防ぐ鍵は、偽物を見破る技術ではありません。実際にFerrariやWPPでは、確認の一手間が数億円の被害を止めました。送金や機密の扱いを一人の判断・一つの経路で完結させない業務プロセスと、それを体で覚える訓練。この2つが実務の答えです。
実際に起きたディープフェイク詐欺の事例
まず、実名で公表されている事例を見てください。被害が出た事例と、確認の一手間で止まった未遂の事例。この対比に、対策のほぼすべてが詰まっています。
Arup（香港・2024年1月）
被害 約38億円財務担当者がCFOを名乗るメールを受信。当初はフィッシングを疑ったものの、CFOと複数の同僚が映るビデオ会議に招かれて信用し、15回に分けて計2億香港ドルを5つの口座へ送金しました。会議の参加者は本人以外すべて、公開動画から合成されたディープフェイク。発覚したのは、送金後に英本社へ確認したときでした。
出典：CNN（2024年5月16日）／Fortune（2024年5月17日）Ferrari（イタリア・2024年7月）
未遂・被害なしCEOのベネデット・ヴィーニャ氏を装うWhatsAppメッセージが幹部に届き、極秘の買収案件への協力とNDAへの署名を要求。続く電話は、本人の南イタリア訛りまで再現した合成音声でした。幹部が「数日前にあなたが薦めてくれた本のタイトルは？」と本人しか答えられない質問をしたところ、相手は答えられず通話を切りました。
出典：Fortune（2024年7月27日）WPP（イギリス・2024年5月）
未遂・被害なし広告世界大手WPPのCEOマーク・リード氏になりすまし、公開写真で作ったWhatsAppアカウントからTeams会議を設定。会議ではAIで複製した音声とYouTubeの映像を使い、新規事業の立ち上げを口実に金銭と個人情報を要求しました。現場の警戒で未遂に終わり、リード氏は全社に注意喚起のメールを送っています。
出典：The Guardian（2024年5月10日）日本国内の状況（2026年7月時点）
確定事例はまだ少ない国内では、企業名と被害額まで公表されたディープフェイク送金被害はまだ確認できていません。ただし著名人になりすました偽の投資動画広告はすでに大量に出回り、警察庁が注意喚起を出しています。IPAの「情報セキュリティ10大脅威 2026」では「AIの利用をめぐるサイバーリスク」が初選出でいきなり3位に入りました。海外で確立した手口が日本語に来るまでの時差は、年々短くなっています。
出典：IPA 情報セキュリティ10大脅威 2026ディープフェイク詐欺の手口
3つの事例に共通するのは、材料がすべて公開情報だったことです。攻撃者はまず、標的になる企業の情報を集めます。誰が財務の決裁権を持っているか、誰が送金の実務を担当しているか。役員名や組織図、決算説明会の動画、SNSに上がった登壇映像。WPPのケースでは、CEOの公開写真とYouTube映像だけでなりすましが組み立てられました。
次に、集めた映像と音声からAIモデルをつくります。数十秒ぶんの声があれば話し方を、数枚から数十枚の顔写真や短い動画があれば表情を、それらしく合成できてしまう。かつては専門の研究者しか扱えなかった技術が、いまは市販のツールや無料の学習済みモデルで、それなりの品質のものが動きます。
そして本番です。攻撃者は「緊急」「内密」「あなたにしか頼めない」という状況をつくり、ビデオ通話や電話で送金・情報提供を指示します。相手が確認しようとする隙を与えないよう、時間を切ってくるのが常套手段です。
流れを分解すると、次の5段階になります。
素材集め
役員の顔と声を、公開情報から集めます。企業サイトの役員紹介、YouTubeの登壇動画、インタビュー記事、SNSの投稿。標的にする組織の決裁ルートも同時に調べます。
合成モデルの作成
集めた素材で、顔を差し替える映像モデルと、声を模す音声モデルをつくります。リアルタイムで顔をすり替えながら通話できるツールも出回っています。
シナリオ設計
「M&A」「海外送金」「監査対応」など、担当者が上に確認しづらい題材を選びます。内密・緊急・限定を組み合わせ、立ち止まる余地を消していきます。
接触と指示
ビデオ通話や電話で本人になりすまし、送金や機密提供を指示します。チャットやメールで事前に地ならしをしてから、通話に持ち込むこともあります。
回収と痕跡消し
着金後、資金は複数の口座を経由して短時間で引き出されます。気づいたときには、もう追跡が難しくなっています。
なぜディープフェイクを見破れないのか
私たちが「これは本人だ」と判断するとき、無意識に頼っているのは顔と声です。メールなら文面の違和感やアドレスのおかしさで気づけても、ビデオ通話で本人が話していれば、疑う理由そのものが消えてしまう。Arupの担当者も、最初のメールは疑っていました。ビデオ会議で見慣れた顔を見た瞬間に、疑いのほうが消えたのです。
厄介なのは、品質が「本物と見分けがつくかどうか」で語れなくなってきたことです。じっくり見れば、口元の同期のずれや光の当たり方の不自然さが残ることはあります。ただ実際の通話は、回線品質のせいで多少カクついていても違和感を持たれません。「今日は少し映像が乱れますね」の一言で、合成の粗さはそのまま流されてしまいます。
さらにAIは、この攻撃を「量産」できるようにしました。以前は一件ごとに手間のかかる標的型だったものが、素材集めから合成、シナリオ生成までを自動化の流れに乗せられる。狙われるのは大企業だけではありません。決裁が少人数に集中している中小企業のほうが、むしろ一撃で通ってしまいやすいのです。
「AIが生成した映像かどうか」を検出するツールはありますが、生成側と検出側はいたちごっこで、100%は望めません。現場の担当者に「本物かどうか見抜け」と求めるのは、そもそも筋が悪いと思います。見抜けなくても被害が出ない業務のつくり方に寄せるほうが、ずっと確実です。
被害の規模と、事前に出ていた兆候
被害はどこまで広がっているのか。FBIのインターネット犯罪苦情センター（IC3）の2024年年次報告では、米国のサイバー犯罪被害総額は過去最高の166億ドル（前年比33%増）に達し、経営者や取引先へのなりすまし（BEC）だけで約27.7億ドルを占めます。ディープフェイクはこのなりすましの最終形で、IPAの10大脅威2026でも「AIの利用をめぐるサイバーリスク」が初選出で3位に入りました。
金銭被害だけでは終わりません。「役員の指示だと思って動いた担当者」が責められる空気が生まれると、組織の中で萎縮が起きます。次に本当に緊急の指示が来たとき、今度は誰も動けなくなる。信頼のプロセスそのものが壊れることのほうが、後を引きます。
それでも、振り返ると兆候は出ています。Arupの担当者も最初のメールには違和感を持っていました。
- 普段はメールで来る指示が、その日に限って通話・チャットの口頭ベースだった
- 「内密に」「他の人には言わないで」と、確認経路を塞ぐ言葉が添えられていた
- 期限が不自然に短く、上長やチームに相談する時間を与えられなかった
- いつもと違う口座、海外送金、普段と桁の違う金額だった
- 折り返しの電話番号が、社内の名簿にある番号と食い違っていた
どれか一つで偽物だと断定はできません。ただ、これらが重なったときに「一度立ち止まる」ことができれば、多くは止められます。問題は、緊急と権威を同時にぶつけられた人間が、その場で立ち止まれるかどうか。ここは知識というより、訓練で身につく反射に近いものです。
企業がとるべきディープフェイク対策
対策は、大きく三つの層に分けて考えると整理しやすくなります。FerrariとWPPが未遂で止まった理由は、どちらも「その場で確認する動作」が現場に残っていたことでした。
1. プロセスで「一人・一経路」を断つ
送金や機密提供には、金額や種別に応じた複数人の承認を必須にします。そのうえで「指示を受けた経路とは別の経路で本人に確認する」ルールを、例外なく回す。ビデオ通話で受けた指示なら、こちらから登録済みの番号にかけ直します。この一手間を、緊急を理由に省けないよう制度に落とし込んでおきます。
2. 合言葉・確認手順を決めておく
役員と実務担当のあいだで、送金にまつわる指示のときだけ使う合言葉や確認質問を決めておきます。ディープフェイクは公開情報を再現できても、事前に口頭でだけ共有した取り決めまでは持っていません。Ferrariの幹部が投げた「数日前に薦めてくれた本のタイトルは？」の一問は、まさにこれです。コストをかけずに効く一手です。
3. 人が「止まれる」状態をつくる
いくら制度があっても、権威と緊急を前にすると人は流されます。だからこそ、実際に近い状況を安全に体験してもらい、「おかしい」と感じて確認に回す動作を、事前に一度でも通しておく必要があります。次で触れる訓練は、この層を埋めるためのものです。
「本物にしか見えない指示」を、被害のない環境で一度受けておく
サイバー訓練AIは、なりすましビデオ通話やなりすまし音声を模した訓練シナリオを配信します。受け手は緊張感のある状況で「確認に回す」判断を体験し、どこで詰まったかがデータに残ります。うまく対応できた人、流されかけた人が見えるので、次に何を教えるべきかが具体的になります。
- 経営者・役員なりすましの送金指示を、部署や役割ごとに出し分けて訓練できます
- 引っかかった人には、その場で「別経路の確認」を促す学び直しを自動で配信します
- 訓練の実施から結果の集計、経営層への報告資料まで一気通貫でまかなえます
ディープフェイクは、技術で完全に防ぎ切ることを目標にすると、いつまでも追いつけません。狙うべきは、偽物を見破ることではなく、偽物に従っても致命傷にならない業務のつくり方です。プロセスで守り、合言葉で守り、そして人が立ち止まれるように訓練で守る。Arupは送金し、Ferrariは一問で止めた。分かれ目は技術力ではなく、確認の一手間が現場に根づいていたかどうかでした。
ディープフェイク詐欺についてよくある質問
ディープフェイクは目で見て見分けられますか？
じっくり観察すれば、口元と音声のずれや光の当たり方の不自然さが残ることはあります。ただ実際のビデオ会議は回線の乱れで多少カクついても不自然に見えないため、実務で「目視で見抜く」ことは当てにできません。検出ツールも生成側とのいたちごっこで100%にはなりません。判断の軸を「見た目」から「別経路での確認」に移すのが現実的です。
実際にどれくらいの被害が出ていますか？
公表されている最大級の事例は、2024年に香港で起きたArupの計2億香港ドル（約38億円）です。FBIの集計では、なりすまし型のメール詐欺（BEC）全体で2024年に約27.7億ドルの被害が報告されています。日本では企業名つきで公表されたディープフェイク送金被害はまだ確認できていませんが、なりすまし送金の指示自体は国内でも報告されています。
中小企業も狙われますか？
狙われます。合成の素材になるのは経営者の公開動画や写真で、会社の規模は関係ありません。むしろ決裁が少人数に集中し、送金を一人で実行できてしまう中小企業のほうが、一撃で通りやすい構造です。複数人承認と別経路確認のルールは、規模が小さいほど効きます。
企業が最初にやるべき対策は何ですか？
送金と機密提供について「指示を受けた経路とは別の経路で本人に確認する」ルールを作り、例外なく回すことです。あわせて役員と実務担当のあいだで確認用の合言葉を決めておき、緊急や内密を理由に確認を省かせない訓練を実施します。ツールの導入より先に、この業務ルールの整備が効きます。
出典・参考資料
- CNN: British engineering giant Arup revealed as $25 million deepfake scam victim（2024年5月16日）
- Fortune: Arup deepfake fraud scam（2024年5月17日）
- Fortune: Ferrari deepfake attempt（2024年7月27日）
- The Guardian: CEO of WPP targeted by deepfake scam（2024年5月10日）
- IPA: 情報セキュリティ10大脅威 2026
- FBI IC3: 2024 Internet Crime Report
