ディープフェイクCEO詐欺Deepfake CEO Fraud「その会長は、偽物だ」
でぃーぷふぇいく・しーいーおー・さぎ
セリフを文字で読む
- 1(経理部 ビデオ会議――)
- 1権藤会長「極秘の買収だ。今日中に振り込め」
- 1氷室「(会長がこんな連絡を…?)」
- 2九条「その顔と声…本物とは限らぬ」
- 3(画面の中の会長――)
- 3権藤会長「あ、合言葉…?そ、そんなものあったかな」
- 3氷室「では社内番号に折り返します」
- 3(プツッ)
- 4(翌日 全社朝礼――)
- 4権藤会長「合言葉は『権藤バンザイ』だ!」
- 4氷室「いま全社に公開しましたね」
- 4(ヒュオオ)
- ディープフェイクCEO詐欺とは、AIで作った偽の声や映像で経営者になりすまし、送金などを指示する詐欺。
- 海外では、ビデオ会議の相手が偽物だと気づかずに送金してしまった事例も報じられている。
- 対策の基本は「見破る」ことより、コールバック・二重承認・送金ルールなど「手順で守る」こと。
徹底解説ディープフェイクCEO詐欺
ディープフェイクCEO詐欺とは
ディープフェイクCEO詐欺(Deepfake CEO Fraud)とは、AIで作った偽の声や映像(ディープフェイク)を使って、社長や役員などの経営者になりすまし、社員に送金や情報の提出を指示する詐欺のことです。「CEO」は最高経営責任者、つまり会社のトップを意味します。
経営者になりすまして送金させる詐欺そのものは、以前からありました。日本でも、取引先や経営者になりすましたメールで送金させる「ビジネスメール詐欺(BEC)」への注意がよびかけられてきました。新しいのは、メールの文章だけでなく、声や顔まで本物そっくりに偽造できるようになったことです。
海外では、社員がビデオ会議に参加したところ、画面に映っていた経営幹部らが実はAIで作られた偽物で、その指示に従って多額の送金をしてしまった――という事例が報じられ、大きな話題になりました。電話の声で経営者になりすました事例も、海外で報じられています。
なぜ今、警戒が必要なのか
| 理由 | 内容 |
|---|---|
| 1. 偽造の技術が身近になった | 声や顔をまねるAIの技術が進み、以前より手軽に本物らしい偽物が作れるようになったといわれます。 |
| 2. 経営者の声や映像が公開されている | 講演の動画、インタビュー、会社の紹介動画、SNSなど、経営者の顔や声が多くの人の目に触れるようになりました。 |
| 3. オンライン会議が当たり前に | 直接会わずに、画面ごしに重要な指示が出ることが普通になり、「画面の中の上司」を信じやすい環境になりました。 |
| 4. 「顔と声=本人」という思い込み | 文章のメールなら疑っても、顔が見えて声が聞こえると、人は信じやすいといわれます。 |
だまされやすい状況のサイン
手口の細部は変わっても、だまされやすい状況には共通点があるとされます。次のサインが重なったら、相手がどんなに本物らしく見えても、立ち止まってください。
| サイン | よくある言い方の例 | こう考える |
|---|---|---|
| 秘密 | 「極秘の案件だ」「ほかの役員にも言うな」 | 正規の取引なら、社内の決められた承認を通せるはず |
| 至急 | 「今日中に」「あと1時間で」 | 急がせるのは、確認させないための典型的な手口 |
| 例外 | 「今回だけはこの口座に」「手続きは後でいい」 | 初めての振込先・規定外の手順は、それだけで要注意 |
| 手段の変化 | 「いつもの番号ではなく、この会議で」 | ふだんと違う連絡手段は、折り返しの確認が必要 |
| 確認を嫌がる | 「折り返しはいらない」「時間がない」 | 本物の経営者なら、確認で怒ることはない(と、あらかじめ決めておく) |
「見破る」より「手順で守る」
映像のちらつきや、声の不自然さに気づこう――という対策もありますが、AIの精度が上がるほど、人の目と耳で見破るのは難しくなっていくと考えられます。そこで大切なのが、相手が本物らしいかどうかに関係なく、決められた手順で確認するという考え方です。
マンガの3コマ目で、氷室室長は相手の顔や声を疑ったのではありません。合言葉を聞き、「社内の番号に折り返します」と、手順どおりに確認しようとしました。これがいちばん強い防御です。
なりすまし送金を防ぐ多層の守り
ひとつの対策だけに頼らず、いくつもの守りを重ねます。どれかひとつをすり抜けられても、次の層で止められるようにしておくのがポイントです。
| 対策 | 具体的なやり方の例 |
|---|---|
| 送金ルール | 新しい振込先の登録や振込先の変更、一定額以上の送金には、必ず決まった手続きを通す。「社長の指示でも、急ぎでも、例外なし」を文書にしておく。 |
| 二重承認 | 送金は、依頼した人とは別の人が承認しないと実行できない形にする。ネットバンキングの承認の設定も確認する。 |
| コールバック | 指示を受けた連絡手段で返事をせず、前もって登録してある電話番号に、こちらからかけ直して本人に確認する。相手が伝えてきた番号にかけ直すのでは意味がない。 |
| 合言葉 | 経営者と経理担当などの間で、本人確認のための合言葉を決めておく。ただし補助的な手段と考え、定期的に変える。 |
| 社員教育 | 手口とサインを共有し、「確認のために止めた社員をほめる」ことを経営者がはっきり伝える。 |
中小企業こそ狙われやすい理由
中小企業は、社長と経理担当の距離が近く、「社長の指示なら、すぐやる」という文化になりがちです。また、送金を1人で行える体制になっていることも少なくありません。人が少ないからこそ、社長自身が「わたしの指示でも、手順どおり確認すること」と命じておくことが、何よりの対策になります。
- 「社長からの急な送金指示は、必ず折り返して確認する」を、社長から全社員に伝える
- 送金の承認者を2人にする(人数が少なければ、社外の顧問や家族役員なども検討)
- 取引先の振込先が変わるという連絡も、登録済みの連絡先で確認する
被害に気づいたら、すぐにやること
万が一、送金してしまったと気づいたら、時間との勝負です。恥ずかしがったり、自分だけで解決しようとしたりせず、すぐに動いてください。
- 銀行に連絡:送金した金融機関に、すぐに事情を伝えます。状況によっては、送金を止めたり、取り戻すための手続きができたりする場合がありますが、必ず取り戻せるとは限りません。
- 警察に相談:最寄りの警察署や、都道府県警察のサイバー犯罪の相談窓口に相談します。緊急でない相談は警察相談専用電話(#9110)も利用できます。
- 記録を残す:メール、通話の履歴、会議の招待や録画、送金の記録などを消さずに保存します。
- 社内に報告:経営者と関係する部署にすぐ報告し、同じ手口がほかの社員に来ていないか確認します。
- 再発防止:どこで止められたかを振り返り、手順を見直して全社で共有します。
関連キーワード
- ディープフェイク:AIを使って、実在する人の顔や声を本物そっくりに合成した映像や音声。
- ビジネスメール詐欺(BEC):経営者や取引先になりすましたメールで、送金などをさせる詐欺。
- ソーシャルエンジニアリング:技術ではなく、人の心理のすきをついて情報やお金をだまし取る手口の総称。
- ヒューマン・イン・ザ・ループ:重要な判断の流れに、人の確認を組み込む考え方(第5話)。送金の二重承認にも通じる。
顔も声も、もはや本人の証明にならない。どんなに本物らしく見えても、決められた手順で確認するまでは送金しない――その「疑う仕組み」を、社長自らが命じておくことが最大の防御だ。
顔も声も、もはや証明にはならぬ。…信じるべきは、手順だけだ。