第21話戦略・リスク

ディープフェイクCEO詐欺Deepfake CEO Fraud「その会長は、偽物だ」

でぃーぷふぇいく・しーいーおー・さぎ

第21話その会長は、偽物だ
起00007919583837571676959575145433335212719190710950282947086687856704462325420461838062994218213700567975経理部 ビデオ会議――極秘の買収だ。今日中に振り込め(会長がこんな連絡を…?)
承偽の社長からの指示AIで顔と声を偽造経営者になりすまし急ぎの送金を命令見破るより『確認』その顔と声…本物とは限らぬ
転プツップツッ画面の中の会長――あ、合言葉…?そ、そんなものあったかなでは社内番号に折り返します
結ヒュオオヒュオオ翌日 全社朝礼――合言葉は『権藤バンザイ』だ!いま全社に公開しましたね
セリフを文字で読む
  • 1(経理部 ビデオ会議――)
  • 1権藤会長「極秘の買収だ。今日中に振り込め」
  • 1氷室「(会長がこんな連絡を…?)」
  • 2九条「その顔と声…本物とは限らぬ」
  • 3(画面の中の会長――)
  • 3権藤会長「あ、合言葉…?そ、そんなものあったかな」
  • 3氷室「では社内番号に折り返します」
  • 3(プツッ)
  • 4(翌日 全社朝礼――)
  • 4権藤会長「合言葉は『権藤バンザイ』だ!」
  • 4氷室「いま全社に公開しましたね」
  • 4(ヒュオオ)
3行でわかる「ディープフェイクCEO詐欺」
  1. ディープフェイクCEO詐欺とは、AIで作った偽の声や映像で経営者になりすまし、送金などを指示する詐欺。
  2. 海外では、ビデオ会議の相手が偽物だと気づかずに送金してしまった事例も報じられている。
  3. 対策の基本は「見破る」ことより、コールバック・二重承認・送金ルールなど「手順で守る」こと。

徹底解説ディープフェイクCEO詐欺

ディープフェイクCEO詐欺とは

ディープフェイクCEO詐欺(Deepfake CEO Fraud)とは、AIで作った偽の声や映像(ディープフェイク)を使って、社長や役員などの経営者になりすまし、社員に送金や情報の提出を指示する詐欺のことです。「CEO」は最高経営責任者、つまり会社のトップを意味します。

経営者になりすまして送金させる詐欺そのものは、以前からありました。日本でも、取引先や経営者になりすましたメールで送金させる「ビジネスメール詐欺(BEC)」への注意がよびかけられてきました。新しいのは、メールの文章だけでなく、声や顔まで本物そっくりに偽造できるようになったことです。

海外では、社員がビデオ会議に参加したところ、画面に映っていた経営幹部らが実はAIで作られた偽物で、その指示に従って多額の送金をしてしまった――という事例が報じられ、大きな話題になりました。電話の声で経営者になりすました事例も、海外で報じられています。

なぜ今、警戒が必要なのか

理由内容
1. 偽造の技術が身近になった声や顔をまねるAIの技術が進み、以前より手軽に本物らしい偽物が作れるようになったといわれます。
2. 経営者の声や映像が公開されている講演の動画、インタビュー、会社の紹介動画、SNSなど、経営者の顔や声が多くの人の目に触れるようになりました。
3. オンライン会議が当たり前に直接会わずに、画面ごしに重要な指示が出ることが普通になり、「画面の中の上司」を信じやすい環境になりました。
4. 「顔と声=本人」という思い込み文章のメールなら疑っても、顔が見えて声が聞こえると、人は信じやすいといわれます。

だまされやすい状況のサイン

手口の細部は変わっても、だまされやすい状況には共通点があるとされます。次のサインが重なったら、相手がどんなに本物らしく見えても、立ち止まってください。

図1だまされやすい状況の典型(被害を防ぐ側から見た流れ)
01いつもと違うふだん使わない連絡手段・相手02秘密にせよ「言うな」と口止め03急げ「今日中に」と時間で追う04例外の送金初めての口座規定外の手順05ここで止める手順どおり確認するまで送金しない
サインよくある言い方の例こう考える
秘密「極秘の案件だ」「ほかの役員にも言うな」正規の取引なら、社内の決められた承認を通せるはず
至急「今日中に」「あと1時間で」急がせるのは、確認させないための典型的な手口
例外「今回だけはこの口座に」「手続きは後でいい」初めての振込先・規定外の手順は、それだけで要注意
手段の変化「いつもの番号ではなく、この会議で」ふだんと違う連絡手段は、折り返しの確認が必要
確認を嫌がる「折り返しはいらない」「時間がない」本物の経営者なら、確認で怒ることはない(と、あらかじめ決めておく)

「見破る」より「手順で守る」

映像のちらつきや、声の不自然さに気づこう――という対策もありますが、AIの精度が上がるほど、人の目と耳で見破るのは難しくなっていくと考えられます。そこで大切なのが、相手が本物らしいかどうかに関係なく、決められた手順で確認するという考え方です。

図2「見破る」対策と「手順で守る」対策
見破ろうとする対策映像の不自然さを探す声の違和感に気づこうとする担当者の勘と経験に頼るAIの精度が上がると通じない気づけなかった人の責任になる手順で守る対策決まった番号に折り返す送金は必ず二人で承認する例外の送金ルールを作らない本物らしさに関係なく効く疑うことを会社が命じている

マンガの3コマ目で、氷室室長は相手の顔や声を疑ったのではありません。合言葉を聞き、「社内の番号に折り返します」と、手順どおりに確認しようとしました。これがいちばん強い防御です。

なりすまし送金を防ぐ多層の守り

ひとつの対策だけに頼らず、いくつもの守りを重ねます。どれかひとつをすり抜けられても、次の層で止められるようにしておくのがポイントです。

図3なりすまし送金を防ぐ多層の守り
社員教育手口を知り、止める勇気合言葉本人確認の補助コールバック登録済みの番号に折り返す二重承認1人では送金できない送金ルール例外なし・急ぎでも同じ手順
対策具体的なやり方の例
送金ルール新しい振込先の登録や振込先の変更、一定額以上の送金には、必ず決まった手続きを通す。「社長の指示でも、急ぎでも、例外なし」を文書にしておく。
二重承認送金は、依頼した人とは別の人が承認しないと実行できない形にする。ネットバンキングの承認の設定も確認する。
コールバック指示を受けた連絡手段で返事をせず、前もって登録してある電話番号に、こちらからかけ直して本人に確認する。相手が伝えてきた番号にかけ直すのでは意味がない。
合言葉経営者と経理担当などの間で、本人確認のための合言葉を決めておく。ただし補助的な手段と考え、定期的に変える。
社員教育手口とサインを共有し、「確認のために止めた社員をほめる」ことを経営者がはっきり伝える。
オチの会長は…「対策は万全だ!」と、全社朝礼で合言葉を大声で発表してしまいました。これでは合言葉の意味がありません。朝礼の録画や議事録が外にもれれば、詐欺グループにも伝わりかねません。合言葉は知るべき人だけで、記録の残らない方法で共有し、ときどき変えるのが基本です。そして合言葉だけに頼らず、コールバックや二重承認と組み合わせることが大切です。

中小企業こそ狙われやすい理由

中小企業は、社長と経理担当の距離が近く、「社長の指示なら、すぐやる」という文化になりがちです。また、送金を1人で行える体制になっていることも少なくありません。人が少ないからこそ、社長自身が「わたしの指示でも、手順どおり確認すること」と命じておくことが、何よりの対策になります。

  • 「社長からの急な送金指示は、必ず折り返して確認する」を、社長から全社員に伝える
  • 送金の承認者を2人にする(人数が少なければ、社外の顧問や家族役員なども検討)
  • 取引先の振込先が変わるという連絡も、登録済みの連絡先で確認する

被害に気づいたら、すぐにやること

万が一、送金してしまったと気づいたら、時間との勝負です。恥ずかしがったり、自分だけで解決しようとしたりせず、すぐに動いてください。

図4被害に気づいたら、すぐにやること
01銀行に連絡送金した銀行へ至急連絡02警察に相談最寄りの警察署や相談窓口へ03記録を残すメール・通話・会議の記録を保存04社内に報告経営者と関係部署へ05再発防止手順を見直し全社で共有
  1. 銀行に連絡:送金した金融機関に、すぐに事情を伝えます。状況によっては、送金を止めたり、取り戻すための手続きができたりする場合がありますが、必ず取り戻せるとは限りません。
  2. 警察に相談:最寄りの警察署や、都道府県警察のサイバー犯罪の相談窓口に相談します。緊急でない相談は警察相談専用電話(#9110)も利用できます。
  3. 記録を残す:メール、通話の履歴、会議の招待や録画、送金の記録などを消さずに保存します。
  4. 社内に報告:経営者と関係する部署にすぐ報告し、同じ手口がほかの社員に来ていないか確認します。
  5. 再発防止:どこで止められたかを振り返り、手順を見直して全社で共有します。
注意:本記事は、被害を防ぐための一般的な考え方をまとめたものです。手口は変化し続けており、ここに書いたサインに当てはまらない場合もあります。実際に被害にあった、またはその疑いがあるときは、取引のある金融機関と警察にすぐ相談してください。社内ルールの整備にあたっては、必要に応じて専門家にも相談しましょう。

関連キーワード

  • ディープフェイク:AIを使って、実在する人の顔や声を本物そっくりに合成した映像や音声。
  • ビジネスメール詐欺(BEC):経営者や取引先になりすましたメールで、送金などをさせる詐欺。
  • ソーシャルエンジニアリング:技術ではなく、人の心理のすきをついて情報やお金をだまし取る手口の総称。
  • ヒューマン・イン・ザ・ループ:重要な判断の流れに、人の確認を組み込む考え方(第5話)。送金の二重承認にも通じる。
結論

顔も声も、もはや本人の証明にならない。どんなに本物らしく見えても、決められた手順で確認するまでは送金しない――その「疑う仕組み」を、社長自らが命じておくことが最大の防御だ。

九条の一言

顔も声も、もはや証明にはならぬ。…信じるべきは、手順だけだ。