Deepfake: ¿qué es?
El término proviene de la combinación de los conceptos «deep learning» y «fake», haciendo alusión al contenido falso generado con aprendizaje profundo (inteligencia artificial).
Se refiere a una técnica de suplantación de identidad, que se vale de una técnica avanzada de inteligencia artificial que recopila datos sobre movimientos físicos, rasgos faciales e incluso voz, para procesarlos mediante un algoritmo codificador IA o una Red generativa antagónica (GAN), para crear contenido audiovisual, gráfico o de voz falso, pero hiperrealista.
En otras palabras, se trata de un video, imagen o audio creado con IA, que imita la apariencia y/o voz de la una persona (medios sintéticos). Entre los vídeos deepfake más populares, se encuentran los del usuario DeepTomCruise en TikTok:
No es una tecnología completamente nueva. De hecho, se ha usado durante años en los estudios cinematográficos de Hollywood, pero ahora está al alcance de muchas personas a través de aplicaciones comerciales, lo cual ha incrementado el volumen de contenido de este tipo circulando por la web, aunque Facebook prohibió los Deepfakes en 2020 (con excepción de los que son claramente parodias).
¿Por qué los deepfake pueden ser una amenaza a la seguridad digital y la información?
El problema no está en el deepfake, que es solo un contenido generado con IA, sino en el uso que se le da. Un reciente informe de Europol, advierte que la mayoría de deepfakes difundidos tienen intenciones maliciosas. Entre las prácticas indebidas que esta tecnología podría facilitar, se encuentran:
- Atentar contra la integridad moral de las personas (por ejemplo, con los montajes de vídeos pornográficos).
- Manipulación de imágenes y sonidos para eludir contraseñas biométricas.
- Fraudes en plataformas digitales.
- Propagación de noticias falsas y desinformación, que podría incluso perturbar mercados financieros y desestabilizar relaciones internacionales.
- Robo de identidad.
- Extorsión (amenazando a la persona con distribuir contenido falso comprometedor).
- Lo más preocupante es que, en la medida que la tecnología se vuelva menos costosa, puede aumentar el número de ilícitos cometidos. Así lo espera Europol, por lo cual recomienda comprender las falsificaciones profundas y prepararse.
¿Cómo detectar deepfake?
Es cada vez más difícil. De acuerdo con un reciente estudio publicado en Proceedings of the National Academy of Sciences USA, “los rostros generados sintéticamente no solo son fotorrealistas, sino que son casi indistinguibles de los reales y se consideran más fiables”. Sin embargo, no es imposible. Aún hay detalles a los cuales prestar atención:
Número de parpadeos
Prestando atención al número de veces que parpadea la imagen del vídeo, podemos descubrir si es una persona real o un deepfake, ya que este suele hacerlo en menos ocasiones que las personas, a veces de forma forzada o poco natural.
Rostro y cuerpo
Generar falsificaciones de toda la humanidad de una persona implica bastante trabajo, por lo cual, la mayoría de deepfakes se limitan a las sustituciones de rostro. Entonces, una forma de detectar la falsificación es identificar incongruencias entre las proporciones del cuerpo y la cara, o entre las expresiones faciales y los movimientos o posturas corporales.
Extensión del vídeo
Una falsificación de calidad exige varias horas de trabajo y entrenamiento del algoritmo, por lo que los vídeos fake suelen ser de pocos segundos.
Sonido del vídeo
Existe software para crear fakes de voz, pero a menudo se limita a cambiar el rostro. Hay que sospechar si el vídeo no tiene audio o lo tiene y no coincide con la imagen, especialmente, en el movimiento de labios.
Interior de la boca
La tecnología para generar deepfakes no es muy buena para reproducir fielmente lengua, dientes y cavidad bucal cuando la persona habla. Por lo tanto, los desenfoques en el interior de la boca son indicativos de una imagen falsa.
Otros detalles
Los detalles son el punto débil de los softwares para crear deepfakes. Por eso, podemos descubrirlos al poner el foco en pequeños aspectos, como sombras apagadas alrededor de los ojos, vello facial poco realista, piel demasiado lisa o arrugada, lunares ficticios y color de labios poco natural.
Acudir a la tecnología
En procesos que requieren una verificación más minuciosa, se puede acudir a softwares de detección de deepfakes o a sistemas de detección de vida online (por ejemplo, tomar una selfi o una conexión de video en tiempo real). De esa manera, se reduce de gran manera el riesgo.
Al final, como sucede con todas las amenazas derivadas del mundo digital, el criterio de las personas son el eslabón que más debemos fortalecer. Es necesario que desconfíen de contenido sospechoso y aprendan detalladamente cómo detectar deepfake.
