ディープフェイクとは

ディープフェイクとは、深層学習 (ディープラーニング) を用いて人物の顔や声を精巧に合成・置換する技術、およびその生成物を指します。GAN (敵対的生成ネットワーク) や拡散モデルなどの生成技術が普及したことで、専門知識がなくても高品質な偽造メディアを作成できる環境が整いつつあります。

元々は映画の視覚効果や学術研究の文脈で発展した技術ですが、ソーシャルエンジニアリングやフィッシングの高度化に悪用されるケースが問題となっています。経営者の声を模倣した電話で送金を指示するビッシング (音声フィッシング) や、実在の人物になりすました動画で信頼を獲得する手口が報告されています。

この手口が効く理由は、声や顔が「本人であること」の証拠として直感的に信用されやすい点にあります。一致していれば疑わないという習慣そのものが入口になるため、防御は見分ける力ではなく確認手続きの側に置く必要があります。

悪用の手口と被害パターン

ディープフェイクを利用した攻撃は、従来のソーシャルエンジニアリングの説得力を高めます。主な悪用パターンは以下のとおりです。

ビジネスメール詐欺の進化: 経営者の声を合成し、電話越しに緊急の送金を指示する。2019 年に報じられた事案では、ドイツの親会社の CEO の声を模倣した電話を受けたイギリスの子会社が約 24 万ドル (22 万ユーロ) を送金した
ビデオ会議でのなりすまし: 2024 年 5 月の報道では、エンジニアリング企業 Arup の香港拠点で、合成された映像と音声によって複数の役職者に扮したビデオ会議に参加させられた従業員が複数回の送金に応じ、約 2,500 万米ドルの被害が生じたと伝えられている
本人確認の突破: 金融機関のビデオ通話による本人確認 (eKYC) を、リアルタイムの顔合成で突破する試み
デジタル ID 窃盗への応用: SNS の写真や動画から顔データを収集し、なりすましアカウントを作成する
偽情報キャンペーン: 政治家や著名人の偽動画を拡散し、世論の誘導や相場の混乱を狙う

音声のディープフェイクは数秒の音声サンプルからでも生成でき、映像よりも低コストで痕跡も少ないため、電話を使った詐欺では特に警戒が必要です。着信画面の番号は偽装できるので、正規の番号が表示され声が一致していても、本人確認の根拠にはなりません。

検出技術と見破るポイント

ディープフェイクの検出は生成技術とのいたちごっこであり、どの手法も真偽を確定させるものではありません。検出は「疑いの度合いを測る」作業だと捉えるのが実務的です。

技術的な検出手法

生体信号の分析: 本物の映像に含まれる微細な脈拍の変動 (rPPG) や瞬きのパターンを手がかりにする。合成映像ではこれらの信号が欠落したり不自然になったりする場合がある
周波数領域の解析: GAN が生成した画像には空間周波数スペクトルに特有のアーティファクトが残ることが知られており、フーリエ変換で分析すると人間の目には見えない痕跡を捉えられる場合がある。ただし生成方式が変われば同じ特徴は現れないため、拡散モデルなど別方式の生成物には効きにくい
電子透かしと来歴追跡: C2PA (Coalition for Content Provenance and Authenticity) の規格に基づき、コンテンツの生成・編集履歴をメタデータとして埋め込む取り組みが進んでいる。ただし来歴が付いていない素材の真偽は判定できず、「来歴があること」を確認する仕組みにとどまる

人間が気付ける手がかりと、その限界

顔の輪郭と背景の境界にぼやけや不自然な歪みがないか
瞬きの頻度が極端に少なくないか (初期の合成映像に多い欠陥)
口の動きと音声のタイミングにずれがないか
照明の方向と影の整合性が取れているか
耳や歯など、細部の描写が不自然でないか

これらの手がかりは品質の低い生成物には有効ですが、生成品質が上がるほど消えていきます。判定を確信度スコアで返す検出ツール (2020 年に Microsoft が公開した Video Authenticator など) も、結果は白黒の二択ではありません。目視や検出ツールで問題が見つからなかったことは、本物である証明にはならないと考えてください。

個人と組織が取るべき防御策

ディープフェイクの脅威に対しては、技術的対策と運用面の対策を組み合わせることが重要です。真偽の判断を現場の目に委ねない設計にすることが要点です。

個人の対策

SNS での顔写真・動画の公開範囲を制限する: 公開されている顔や声のデータが多いほど、高品質なディープフェイクを生成される余地が広がる
不審な連絡の検証: 経営者や家族を名乗る緊急の電話・ビデオ通話を受けたら、その通話の中で判断せず、あらかじめ知っている番号や社内名簿の連絡先へかけ直して確認する (着信履歴からのかけ直しは避ける)
二要素認証を有効にする: なりすましによるアカウント乗っ取りを防ぐ。ただし電話口で認証コードを言わせる手口もあるため、コードを誰にも伝えない運用と組み合わせて初めて機能する

組織の対策

送金・機密情報の取り扱いに多段階承認を導入する: 電話やビデオ通話だけで高額送金を承認しない運用ルールを徹底する
従業員教育: ディープフェイクの存在と手口を周知し、「見たものをそのまま信じない」意識を醸成する。あわせて、確認のために送金を止めた判断が責められない空気をつくる
コンテンツ認証技術の導入: C2PA 対応のツールやプラットフォームを活用し、社内外のメディアの来歴を確認できる体制を整える

データ漏洩で流出した個人情報とディープフェイクを組み合わせた攻撃は、従来のフィッシングよりも説得力が高いため、複合的な防御策が欠かせません。

よくある誤解

ディープフェイクは専門家でなければ作れない: オープンソースのツールやクラウドサービスの普及により、技術的な専門知識がなくても数分で顔の入れ替えや音声の合成が可能になっている。スマートフォンアプリでも簡易的なディープフェイクを生成できる時代である。
動画を注意深く見れば必ず見破れる: 生成品質の向上により、人間の目視では判別が難しいディープフェイクも作られている。特に低解像度の映像や短い音声クリップでは、専門家でも正確な判定が難しい場合がある。検出ツールを併用しても真偽を断定できるわけではないため、見分けようとするより、送金や本人確認を別経路で検証する手続きに頼るほうが確実である。

ディープフェイク