Qué es el deepfake

Un deepfake es un contenido en el que el rostro o la voz de una persona se han sintetizado o sustituido mediante aprendizaje profundo, así como la técnica que lo produce. Con la difusión de métodos generativos como las GAN (redes generativas antagónicas) y los modelos de difusión, crear medios falsificados de alta calidad ya no exige conocimientos especializados.

La tecnología nació en el ámbito de los efectos visuales del cine y de la investigación académica, pero se ha utilizado de forma abusiva para dar mucha más credibilidad a la ingeniería social y al phishing. Entre las tácticas documentadas figuran las llamadas de vishing (phishing de voz) que imitan la voz de un directivo para ordenar un pago, y los vídeos que suplantan a una persona real para ganarse la confianza de la víctima.

El motivo de que la táctica funcione es que una voz o un rostro se aceptan de forma intuitiva como prueba de identidad. La costumbre de no cuestionar lo que encaja es la puerta de entrada, de modo que la defensa corresponde a los procedimientos de verificación y no a la capacidad de distinguir una falsificación.

Métodos de uso malicioso y patrones de daño

Los ataques que utilizan deepfakes elevan la capacidad de persuasión de la ingeniería social tradicional. Los principales patrones de abuso son los siguientes.

Evolución del fraude del correo corporativo: se sintetiza la voz de un directivo para ordenar por teléfono una transferencia urgente. En un caso publicado en 2019, una filial británica transfirió unos 240.000 dólares (220.000 euros) tras una llamada que imitaba la voz del director ejecutivo de su matriz alemana
Suplantación en videoconferencias: según informaciones de mayo de 2024, un empleado de la oficina de Hong Kong de la empresa de ingeniería Arup fue llevado a una videoconferencia en la que imágenes y audio sintetizados se hacían pasar por varios de sus superiores; el empleado realizó varias transferencias siguiendo esas instrucciones y las pérdidas rondaron los 25 millones de dólares
Superar la verificación de identidad: intentos de burlar con síntesis facial en tiempo real la verificación de identidad por videollamada (eKYC) de una entidad financiera
Uso en el robo de identidad digital: recopilar datos faciales de fotos y vídeos publicados en redes sociales para crear cuentas de suplantación
Campañas de desinformación: difundir vídeos falsos de políticos o personas conocidas para orientar la opinión pública o alterar los mercados

Los deepfakes de audio pueden generarse a partir de una muestra de unos segundos, cuestan menos que el vídeo y dejan menos rastro, por lo que conviene extremar la precaución con los fraudes telefónicos. El número que aparece en la pantalla puede falsificarse, así que ni un número legítimo ni una voz que encaja bastan para confirmar quién llama.

Tecnologías de detección y puntos para identificarlos

Detectar deepfakes es una carrera contra el lado generativo, y ningún método zanja la autenticidad. En la práctica conviene entender la detección como una forma de medir cuánta duda está justificada.

Métodos de detección técnica

Análisis de señales biológicas: se toman como pistas la leve variación del pulso (rPPG) y los patrones de parpadeo presentes en un vídeo auténtico. En el vídeo sintético esas señales faltan a veces o resultan antinaturales
Análisis en el dominio de la frecuencia: se sabe que las imágenes producidas por GAN dejan artefactos característicos en el espectro de frecuencia espacial, y una transformada de Fourier permite a veces sacar a la luz rastros invisibles para el ojo. Esa misma firma no aparece cuando cambia el método de generación, por lo que funciona mal frente a resultados de otros enfoques, como los modelos de difusión
Marcas de agua y trazabilidad del origen: avanza el trabajo de incrustar como metadatos el registro de cómo se creó y editó un contenido, con base en las especificaciones de C2PA (Coalition for Content Provenance and Authenticity). No permite juzgar material que no lleva información de origen, así que sigue siendo un modo de comprobar que ese origen existe

Pistas que una persona puede notar y sus límites

Difuminado o distorsión antinatural donde el rostro se encuentra con el fondo
Un parpadeo llamativamente escaso (defecto habitual en las primeras imágenes sintéticas)
Movimiento de los labios que se desincroniza del audio
Dirección de la luz que no concuerda con las sombras
Representación antinatural de detalles finos como las orejas y los dientes

Estas pistas funcionan con resultados de baja calidad, pero se desvanecen a medida que sube la calidad de generación. Las herramientas de detección que devuelven una puntuación de confianza (como Video Authenticator, publicada por Microsoft en 2020) tampoco dictan un veredicto de sí o no. No encontrar nada extraño a simple vista ni con una herramienta no prueba que el material sea auténtico.

Medidas de defensa para individuos y organizaciones

Hacer frente a la amenaza de los deepfakes exige combinar medidas técnicas y medidas de operación. La clave está en diseñar los procesos para que el juicio sobre la autenticidad no quede nunca en manos de quien está al otro lado de la llamada.

Medidas individuales

Limitar quién puede ver tus fotos y vídeos en redes sociales: cuantos más datos públicos de rostro y de voz existan, más margen tiene un atacante para generar un deepfake de alta calidad
Verificar los contactos sospechosos: si llega una llamada o una videollamada urgente de alguien que dice ser un directivo o un familiar, no hay que decidir dentro de esa llamada. Conviene cortar y devolver la llamada a un número ya conocido o a un contacto del directorio de la empresa (evitando devolverla desde el registro de llamadas recibidas)
Activar la autenticación de dos factores: impide el secuestro de cuentas mediante suplantación. Algunas estafas consiguen que la víctima dicte el código por teléfono, así que solo funciona junto a la regla de no comunicar nunca un código a nadie

Medidas organizacionales

Exigir aprobación en varios pasos para transferencias y datos confidenciales: aplicar la regla de que ninguna transferencia de importe elevado se aprueba solo con una llamada o una videoconferencia
Formar al personal: dar a conocer la existencia y las tácticas de los deepfakes y crear el hábito de no dar por buenas las apariencias. Dejar claro además que detener un pago para verificarlo no se le reprochará a nadie
Adoptar la autenticación de contenidos: usar herramientas y plataformas compatibles con C2PA para poder comprobar el origen de los medios que entran y salen de la empresa

Los ataques que combinan los datos personales expuestos en filtraciones de datos con un deepfake resultan más convincentes que el phishing convencional, y por eso importan las defensas por capas. Para una guía práctica, consulta Cómo detectar deepfakes - Protégete de videos y audios falsos.

Conceptos erróneos comunes

Solo los expertos pueden crear deepfakes: Con la proliferación de herramientas de código abierto y servicios en la nube, es posible realizar intercambios faciales y síntesis de voz en minutos sin conocimientos técnicos especializados. Incluso las aplicaciones de smartphone pueden generar deepfakes básicos.
Si se observa el video con atención, siempre se puede detectar: La mejora de la calidad de generación hace que algunos deepfakes no puedan distinguirse a simple vista. Con vídeo de baja resolución o clips de audio breves, incluso los especialistas tienen a veces dificultades para juzgar con precisión. Las herramientas de detección tampoco zanjan la cuestión, por lo que verificar un pago o una identidad por un canal distinto resulta más fiable que intentar descubrir la falsificación.

Deepfake