深度伪造

什么是深度伪造

深度伪造 (Deepfake) 是指利用深度学习技术精密合成或替换人物面部和声音的技术及其生成物。GAN (生成对抗网络) 和扩散模型等生成式 AI 技术的快速进步，使得无需专业知识也能创建高质量的伪造媒体。

这项技术最初在电影视觉特效和学术研究领域发展，但现在已被武器化用于社会工程学、虚假信息传播和欺诈。创建深度伪造的门槛持续降低，使其成为日益紧迫的安全问题。

恶用手法与损害模式

深度伪造驱动的攻击极大地增强了传统社会工程学的说服力。主要恶用模式如下。

• 商业邮件诈骗的进化：实时合成高管声音，通过电话指示紧急汇款。2019 年，一家英国能源公司因冒充 CEO 的深度伪造语音电话被骗 24.3 万美元。
• 虚假信息与假新闻：伪造政治人物或公众人物从未说过的话的视频，操纵舆论或金融市场。选举期间，深度伪造视频可在社交媒体上迅速传播。
• 身份欺诈：使用深度伪造面部绕过视频身份验证 (eKYC)。依赖自拍验证的金融机构和加密货币交易所面临风险。
• 骚扰与勒索：未经同意创建个人的亲密影像用于骚扰或勒索。受害者遭受严重心理伤害，一旦在网上传播，删除极为困难。

检测技术与识别要点

深度伪造检测是与生成技术的持续博弈，但目前存在几种有效方法。

技术检测方法

• 生物信号分析：检测真实视频中存在的微细脉搏变化 (rPPG) 和眨眼模式。合成视频中这些生物信号缺失或不自然。
• 频域分析：GAN 生成的图像在频域中包含肉眼不可见但算法可检测的特征性伪影。
• 时间一致性检查：分析视频帧间的一致性。深度伪造可能出现不自然的闪烁或光影不一致。

人眼识别线索

• 面部与头发/耳朵之间的边界不自然
• 面部与背景的光照方向不一致
• 牙齿或眼睛反射模糊或扭曲
• 嘴唇动作与音频不完全同步

但最新的生成模型正在迅速消除这些视觉伪影。仅靠人眼观察已越来越不够 - - 技术检测工具日益必要。

个人与组织的防御策略

防御深度伪造威胁需要结合技术和运营措施。

个人措施

• 限制社交媒体上照片和视频的公开范围：公开的面部数据越多，生成高质量深度伪造的风险越高。
• 验证可疑通信：收到声称来自高管或家人要求汇款的电话或视频消息时，通过独立渠道 (回拨已知号码) 验证。
• 建立暗号：与家人约定紧急情况下的暗号，用于在可疑电话中验证身份。

组织措施

• 金融交易多人审批：绝不仅凭一个电话或视频指示处理大额转账。要求多名授权人员审批。
• 深度伪造意识培训：在安全意识培训中加入深度伪造场景，使员工能够识别潜在攻击。
• 内容认证：采用 C2PA (内容来源和真实性联盟) 等标准，在图像和视频中嵌入来源信息，实现真实性验证。

常见误解

只有专家才能制作深度伪造

随着开源工具和云服务的普及，无需技术专业知识也能在几分钟内完成换脸和语音合成。智能手机应用也能生成基本的深度伪造。

仔细观看视频就一定能识别

最先进的生成模型制作的深度伪造已达到人眼难以辨别的水平。特别是低分辨率视频和短音频片段，即使专家也可能难以准确判断。技术检测工具不可或缺。

相关术语