El nuevo escenario de riesgo para las personas no es únicamente la mejora en la calidad de los deepfakes, sino el hecho de que voz, imagen, texto y comportamiento se combinan de forma coherente para producir identidades sintéticas creíbles, escalables y reutilizables. Ya no hablamos de videos manipulados que circulan en redes sociales, sino de ataques operativos que funcionan en llamadas telefónicas, videollamadas, chats de soporte y procesos de verificación digital.
Este cambio de paradigma ha sido documentado con claridad por Europol en su Internet Organised Crime Threat Assessment (IOCTA), que identifica la suplantación basada en IA como uno de los principales habilitadores del fraude financiero moderno (https://www.europol.europa.eu/publications-events/main-reports/internet-organised-crime-threat-assessment). De forma complementaria, ENISA advierte que los ataques con IA ya no buscan vulnerabilidades técnicas aisladas, sino debilidades sistémicas en los procesos de confianza digital.
De los deepfakes visuales a la suplantación multimodal
El término deepfake se popularizó para describir videos manipulados mediante redes neuronales profundas. Sin embargo, ese enfoque resulta hoy insuficiente. La amenaza real no es visual, sino multimodal.
Un ataque moderno puede comenzar con unos pocos segundos de audio obtenidos de un mensaje de voz, una videollamada grabada o un clip publicado en redes sociales. Ese audio es suficiente para entrenar modelos de clonación vocal capaces de reproducir timbre, entonación, pausas y patrones emocionales con una fidelidad notable. Existen pruebas de concepto que han demostrado que menos de diez segundos de audio limpio permiten generar modelos de voz funcionales para engaño humano (https://arxiv.org/abs/2301.02111).
A esto se suma la generación de video sintético en tiempo real, apoyada en modelos de difusión y técnicas de reenactment facial que ya no requieren datasets extensos. La sincronización labial, históricamente un punto débil, ha mejorado hasta niveles que superan los umbrales perceptivos humanos en contextos de baja calidad de transmisión, como videollamadas móviles (https://arxiv.org/abs/2008.10010).
El texto completa el triángulo. Los grandes modelos de lenguaje permiten mantener conversaciones coherentes, con memoria contextual y adaptación emocional, reforzando la ilusión de identidad legítima. El resultado es una entidad sintética que suena, se ve y se comporta como la persona real.
Clonación de voz: la identidad acústica como superficie de ataque
La voz ha sido históricamente considerada un factor “algo que una persona es”. Esa suposición ya no es válida. Técnicas modernas de clonación de voz separan el contenido semántico del hablante de sus características biométricas, permitiendo superponer la identidad vocal de una persona sobre cualquier texto generado dinámicamente.
Modelos basados en neural codec language models y speaker embeddings han reducido drásticamente los requisitos de entrenamiento, eliminando la necesidad de sesiones de grabación controladas https://arxiv.org/abs/2301.02111?utm_source=chatgpt.com). Esto explica el auge de fraudes bancarios por llamada telefónica, donde la víctima reconoce la voz de un familiar o incluso de un empleado conocido de su entidad financiera.
Desde el punto de vista defensivo, esto invalida cualquier esquema de autenticación que trate la voz como un identificador confiable sin controles adicionales.
Evasión de liveness detection: cuando “parpadear” ya no alcanza
Durante años, los sistemas de verificación remota confiaron en mecanismos de liveness detection relativamente simples: movimientos faciales, cambios de iluminación, lectura de frases aleatorias. La premisa era que un atacante no podría reaccionar en tiempo real.
Esa premisa ha quedado obsoleta. Los sistemas generativos actuales pueden responder dinámicamente a estímulos visuales y verbales, ajustando expresiones, movimientos oculares y microgestos con latencias suficientemente bajas como para engañar a sistemas comerciales de verificación (https://arxiv.org/abs/2402.03312).
Esto ha derivado en un fenómeno crítico: el bypass de KYC (procesos de verificación de identidad) sin compromiso del dispositivo. El atacante no necesita malware, acceso previo ni control del teléfono de la víctima. Solo necesita un canal de interacción y un modelo bien ajustado.
Documentos sintéticos y coherencia identitaria
La generación de documentos falsos no es nueva. Lo novedoso es su coherencia sistémica. Hoy es posible generar documentos de identidad, comprobantes de domicilio y selfies verificados que no solo parecen auténticos de forma aislada, sino que mantienen consistencia entre sí.
Existen pruebas de concepto que muestran que los modelos generativos pueden reproducir artefactos visuales propios de documentos reales, como patrones de compresión, reflejos holográficos simulados y degradaciones ópticas plausibles (https://arxiv.org/abs/2310.08168). Esto dificulta la detección basada en heurísticas tradicionales o inspección visual asistida.
El problema deja de ser la falsificación puntual y pasa a ser la construcción de identidades completas, listas para ser usadas en múltiples plataformas.
Identidad conductual: el último bastión bajo presión
Ante la debilidad de los factores biométricos clásicos, muchas organizaciones han apostado por la identidad conductual: patrones de escritura, velocidad de interacción, secuencias de navegación. Sin embargo, incluso este enfoque comienza a mostrar problemas.
Modelos de IA pueden aprender perfiles conductuales a partir de registros limitados y reproducirlos con suficiente variabilidad para evitar detección por umbrales simples (https://dl.acm.org/doi/10.1145/3546118.3546152). Esto no implica que la identidad conductual sea inútil, pero sí que no puede operar de forma aislada.
Fraudes cotidianos: del banco al entorno familiar
El impacto más preocupante de esta evolución es su normalización. Ya no se trata de ataques espectaculares, sino de fraudes pequeños, repetidos y difíciles de investigar.
En el sector financiero, se observan casos crecientes de autorizaciones obtenidas mediante llamadas con voz clonada, donde el atacante conoce datos contextuales suficientes para superar controles humanos. En el ámbito personal, proliferan estafas familiares en las que una videollamada breve es suficiente para inducir transferencias urgentes.
La sextorsión con video generado añade una dimensión psicológica especialmente dañina. No se requiere material real previo: basta con una imagen pública para generar contenido creíble, explotando el impacto emocional más que la veracidad factual (https://www.nist.gov/publications/digital-identity-guidelines).
Implicancias estratégicas: repensar la confianza digital
El mensaje técnico de fondo es incómodo pero claro: la identidad observable ya no es prueba de identidad. Ni la voz, ni el rostro, ni el comportamiento aislado pueden considerarse factores confiables en un entorno de IA generativa avanzada.
Esto obliga a replantear los modelos de seguridad desde una lógica de confianza distribuida, donde la verificación se base en múltiples señales débiles correlacionadas, análisis de riesgo contextual y límites estrictos al impacto de una única interacción.
Las recomendaciones de ENISA apuntan precisamente a este enfoque, enfatizando arquitecturas adaptativas y evaluación continua del riesgo en lugar de autenticaciones puntuales (https://www.enisa.europa.eu/publications/enisa-threat-landscape-2025?utm_source=chatgpt.com#contentList).
Conclusión: una amenaza silenciosa
Los deepfakes multimodales no anuncian su llegada con escándalos virales. Operan en silencio, en llamadas breves, en chats cotidianos, en verificaciones aparentemente triviales. Su peligrosidad no reside en la perfección técnica absoluta, sino en su suficiente verosimilitud a escala.
Comprender esta amenaza exige abandonar la idea de que el problema es “el video falso” o “la voz clonada”. El problema real es la ruptura del vínculo histórico entre identidad humana y señales perceptibles. En ese nuevo escenario, la ciberseguridad deja de ser solo una cuestión de protección tecnológica y se convierte en una disciplina de gestión de la confianza en la era de la simulación.
Leer más
- KnowBe4 presenta un nuevo entrenamiento contra deepfakes para combatir la ingeniería social impulsada por IA
- Deepfakes: la nueva herramienta que detecta fraudes digitales en tiempo real y protege la identidad online
- Deepfakes personales: del entretenimiento al fraude y más allá
