サイバー脅威 / 対策

ディープフェイク

約 4 分で読めます

ディープフェイクとは

ディープフェイクとは、深層学習 (ディープラーニング) を用いて人物の顔や声を精巧に合成 / 置換する技術、およびその生成物を指し⁠ま⁠す⁠。GAN (敵対的生成ネットワーク) や拡散モデルなどの生成技術が使われ⁠ま⁠す⁠。

元々は映画の視覚効果や学術研究の文脈で発展した技術ですが、ソーシャルエンジニアリングやフィッシングにも悪用されてい⁠ま⁠す⁠。経営者の声を模倣した電話で送金を指示するビッシング (音声フィッシング) や、実在の人物になりすました動画で信頼を獲得する手口があり⁠ま⁠す⁠。

この手口は、声や顔を「本人であること」の証拠として扱う習慣を利用し⁠ま⁠す⁠。このため防御では、見分けることに加えて、別の経路で本人を確かめる手続きを用意し⁠ま⁠す⁠。

悪用の手口と被害パターン

ディープフェイクは、ソーシャルエンジニアリングの手口に組み込まれて使われ⁠ま⁠す⁠。主な悪用パターンは以下のとおり⁠で⁠す⁠。

  • ビジネスメール詐欺の進化: 経営者の声を合成し、電話越しに緊急の送金を指示する
  • ビデオ会議でのなりすまし: CNN の 2024 年 5 月 16 日の記事によると、エンジニアリング企業 Arup は、香港の従業員が詐欺で送金した件を同年 1 月に香港警察へ届け出ており、偽の声と画像が使われたことを認⁠め⁠た⁠。香港警察は同年 2 月、財務担当の従業員が最高財務責任者らだと信じたビデオ会議の参加者が、すべて合成で再現された人物だったと説明して⁠い⁠た⁠。送金は合計 2 億香港ドル (約 2,560 万米ドル) で、警察の説明として 15 回に分けて送金されたと報じられた
  • 本人確認の突破: 金融機関のビデオ通話による本人確認 (eKYC) を、リアルタイムの顔合成で突破する試み
  • デジタル ID 窃盗への応用: SNS の写真や動画から顔データを収集し、なりすましアカウントを作成する
  • 偽情報キャンペーン: 政治家や著名人の偽動画を拡散し、世論の誘導や相場の混乱を狙う

2023 年 1 月に arXiv で公開された音声合成の論文 (Chengyi Wang ら) は、未知の話者の 3 秒の録音から、その話者の声の音声を合成したと報告してい⁠ま⁠す⁠。着信画面の番号は偽装されることがあるので、正規の番号が表示され声が一致していても、本人確認の根拠にはなりま⁠せ⁠ん⁠。

検出技術と見破るポイント

CNN が生成した画像の検出を扱った Sheng-Yu Wang らの論文 (2019 年) は、題名で、検出のしやすさを「今のところは」(for now) と限定してい⁠ま⁠す⁠。以下の手法の結果は、確信度として扱い⁠ま⁠す⁠。

技術的な検出手法

  • 生体信号の分析: 本物の映像に含まれる生体信号を手がかりに⁠す⁠る⁠。Ciftci らの論文 (2019 年) は、肖像の映像に隠れた生体信号が合成映像では空間的にも時間的にも保たれないことを手がかりにした検出器を示した
  • 周波数領域の解析: Durall らの論文 (2019 年) は、偽の顔画像には肉眼では見えにくい痕跡が特定の領域に現れるとし、古典的な周波数領域の解析と基本的な分類器で検出する方法を示⁠し⁠た⁠。生成方式が変われば、同じ痕跡が現れるとは限らない
  • 電子透かしと来歴追跡: C2PA (Coalition for Content Provenance and Authenticity) の規格に基づき、コンテンツの生成 / 編集履歴をメタデータとして埋め込む取り組みが⁠あ⁠る⁠。ただし来歴が付いていない素材の真偽は判定できず、「来歴があること」を確認する仕組みにとどまる

人間が気付ける手がかりと、その限界

  • 顔の輪郭と背景の境界にぼやけや不自然な歪みがないか
  • 瞬きの頻度が極端に少なくないか
  • 口の動きと音声のタイミングにずれがないか
  • 照明の方向と影の整合性が取れているか
  • 耳や歯など、細部の描写が不自然でないか

これらの手がかりは、生成品質が上がると見つかりにくくなり⁠ま⁠す⁠。2020 年 9 月 1 日に Microsoft が発表した Video Authenticator は、媒体が人為的に操作されている可能性を確信度として返し⁠ま⁠す⁠。目視や検出ツールで問題が見つからなかったことは、本物である証明にはなりま⁠せ⁠ん⁠。

個人と組織が取るべき防御策

以下は、技術的対策と運用面の対策⁠で⁠す⁠。どちらも、真偽の判断を現場の目に委ねないためのもの⁠で⁠す⁠。

個人の対策

  • SNS での顔写真 / 動画の公開範囲を制限する: 公開されている顔や声のデータは、ディープフェイクの素材に使われることがある
  • 不審な連絡の検証: 経営者や家族を名乗る緊急の電話 / ビデオ通話を受けたら、その通話の中で判断せず、あらかじめ知っている番号や社内名簿の連絡先へかけ直して確認する (着信履歴からのかけ直しは避ける)
  • 二要素認証を有効にする: なりすましによるアカウント乗っ取りを⁠防⁠ぐ⁠。電話口で認証コードを言わせる手口もあるため、コードは誰にも伝えない

組織の対策

  • 送金 / 機密情報の取り扱いに多段階承認を導入する: 電話やビデオ通話だけで高額送金を承認しない運用ルールを徹底する
  • 従業員教育: ディープフェイクの存在と手口を周知し、「見たものをそのまま信じない」意識を醸成⁠す⁠る⁠。あわせて、確認のために送金を止めた判断が責められない空気をつくる
  • コンテンツ認証技術の導入: C2PA 対応のツールやプラットフォームを活用し、社内外のメディアの来歴を確認できる体制を整える

データ漏洩で流出した個人情報がディープフェイクと組み合わされることもあるため、上の対策は組み合わせて使い⁠ま⁠す⁠。

よくある誤解

ディープフェイクは専門家でなければ作れない
顔の入れ替えや音声の合成を行う一般向けのアプリやサービスがあり、専門家でなくても使⁠え⁠る⁠。
動画を注意深く見れば必ず見破れる
目視では判別が難しいディープフェイクも⁠あ⁠る⁠。検出ツールの結果も確信度であり、真偽の断定では⁠な⁠い⁠。送金や本人確認は、別経路で検証する手続きで確か⁠め⁠る⁠。
共有する

関連用語

関連記事