¿Qué es un deepfake y cómo detectarlo?

De acuerdo con un estudio desarrollado por iProov, el 71% de los encuestados a nivel global no sabe qué es un deepfake y el 43% admite que no podría detectar uno. Mientras, la tecnología para crearlos es cada vez más sofisticada y accesible, ampliando la posibilidad de que los ciberdelincuentes usen estas voces y rostros para suplantar identidades y generar contenido malicioso. Por lo tanto, vale la pena profundizar un poco en el asunto.

Un deepfake es la suplantación de identidad en audio, video o imagen, creada con Aprendizaje Profundo. Conoce sus peligros y cómo detectarlo

Tiempo de lectura: 4 min

Deepfake: ¿qué es? 

El término proviene de la combinación de los conceptos «deep learning» y «fake», haciendo alusión al contenido falso generado con aprendizaje profundo (inteligencia artificial)

Se refiere a una técnica de suplantación de identidad, que se vale de una técnica avanzada de inteligencia artificial que recopila datos sobre movimientos físicos, rasgos faciales e incluso voz, para procesarlos mediante un algoritmo codificador IA o una Red generativa antagónica (GAN), para crear contenido audiovisual, gráfico o de voz falso, pero hiperrealista.  

En otras palabras, se trata de un video, imagen o audio creado con IA, que imita la apariencia y/o voz de la una persona (medios sintéticos). Entre los vídeos deepfake más populares, se encuentran los del usuario DeepTomCruise en TikTok: 

No es una tecnología completamente nueva. De hecho, se ha usado durante años en los estudios cinematográficos de Hollywood, pero ahora está al alcance de muchas personas a través de aplicaciones comerciales, lo cual ha incrementado el volumen de contenido de este tipo circulando por la web, aunque Facebook prohibió los Deepfakes en 2020 (con excepción de los que son claramente parodias).  

¿Por qué los deepfake pueden ser una amenaza a la seguridad digital y la información? 

El problema no está en el deepfake, que es solo un contenido generado con IA, sino en el uso que se le da. Un reciente informe de Europol, advierte que la mayoría de deepfakes difundidos tienen intenciones maliciosas. Entre las prácticas indebidas que esta tecnología podría facilitar, se encuentran:    

  • Atentar contra la integridad moral de las personas (por ejemplo, con los montajes de vídeos pornográficos).  
  • Manipulación de imágenes y sonidos para eludir contraseñas biométricas. 
  • Fraudes en plataformas digitales. 
  • Propagación de noticias falsas y desinformación, que podría incluso perturbar mercados financieros y desestabilizar relaciones internacionales.  
  • Robo de identidad. 
  • Extorsión (amenazando a la persona con distribuir contenido falso comprometedor).  
  • Lo más preocupante es que, en la medida que la tecnología se vuelva menos costosa, puede aumentar el número de ilícitos cometidos. Así lo espera Europol, por lo cual recomienda comprender las falsificaciones profundas y prepararse.  

¿Cómo detectar deepfake? 

Es cada vez más difícil. De acuerdo con un reciente estudio publicado en Proceedings of the National Academy of Sciences USA, “los rostros generados sintéticamente no solo son fotorrealistas, sino que son casi indistinguibles de los reales y se consideran más fiables”. Sin embargo, no es imposible. Aún hay detalles a los cuales prestar atención:  

Número de parpadeos 

Prestando atención al número de veces que parpadea la imagen del vídeo, podemos descubrir si es una persona real o un deepfake, ya que este suele hacerlo en menos ocasiones que las personas, a veces de forma forzada o poco natural.  

Rostro y cuerpo 

Generar falsificaciones de toda la humanidad de una persona implica bastante trabajo, por lo cual, la mayoría de deepfakes se limitan a las sustituciones de rostro. Entonces, una forma de detectar la falsificación es identificar incongruencias entre las proporciones del cuerpo y la cara, o entre las expresiones faciales y los movimientos o posturas corporales.  

Extensión del vídeo 

Una falsificación de calidad exige varias horas de trabajo y entrenamiento del algoritmo, por lo que los vídeos fake suelen ser de pocos segundos.  

Sonido del vídeo 

Existe software para crear fakes de voz, pero a menudo se limita a cambiar el rostro. Hay que sospechar si el vídeo no tiene audio o lo tiene y no coincide con la imagen, especialmente, en el movimiento de labios.  

Interior de la boca 

La tecnología para generar deepfakes no es muy buena para reproducir fielmente lengua, dientes y cavidad bucal cuando la persona habla. Por lo tanto, los desenfoques en el interior de la boca son indicativos de una imagen falsa.  

Otros detalles  

Los detalles son el punto débil de los softwares para crear deepfakes. Por eso, podemos descubrirlos al poner el foco en pequeños aspectos, como sombras apagadas alrededor de los ojos, vello facial poco realista, piel demasiado lisa o arrugada, lunares ficticios y color de labios poco natural.  

Acudir a la tecnología  

En procesos que requieren una verificación más minuciosa, se puede acudir a softwares de detección de deepfakes o a sistemas de detección de vida online (por ejemplo, tomar una selfi o una conexión de video en tiempo real). De esa manera, se reduce de gran manera el riesgo.  

Al final, como sucede con todas las amenazas derivadas del mundo digital, el criterio de las personas son el eslabón que más debemos fortalecer. Es necesario que desconfíen de contenido sospechoso y aprendan detalladamente cómo detectar deepfake


Medios de comunicación

Contacta con nuestro departamento de comunicación o solicita material adicional.

close-link
Logo Centenario Telefónica Celebra con nosotros el Centenario de Telefónica
EMPIEZA LA AVENTURA