¿Qué es un deepfake y qué riesgos de seguridad implica?
¿Qué es un deepfake?
El término deepfake (un acrónimo en inglés de deep learning o aprendizaje profundo, y fake, que significa falso) se refiere a archivos de vídeo, imagen o audio que han sido editados o generados mediante herramientas de inteligencia artificial. También conocidos como “ultrafalsos”, estos archivos representan un tipo de medio sintético capaz de mostrar a personas reales o ficticias realizando acciones o diciendo palabras que nunca ocurrieron.
Aunque la manipulación de contenidos no es un fenómeno nuevo —con precedentes históricos que van desde la alteración de un retrato de Abraham Lincoln en 1865 hasta el programa “Video Rewrite” en 1997—, la tecnología actual permite que cualquier persona con acceso a estas herramientas de IA pueda crear falsificaciones sumamente realistas y convincentes.
¿Cómo funciona esta tecnología?
La creación de un deepfake se apoya en técnicas avanzadas de aprendizaje automático y reconocimiento facial. En particular, se utilizan herramientas como los autoencoders variacionales (VAE) y las Redes Generativas Adversativas (GANs) o RGAs.
El funcionamiento de las GANs se basa en un juego de confrontación entre dos modelos de aprendizaje automático con objetivos opuestos:
- El primer modelo se alimenta de una amplia base de datos de imágenes o vídeos de la persona objetivo y genera falsificaciones basadas en ese material.
- El segundo modelo actúa como un detector, analizando las imágenes generadas para determinar si son reales o falsas.
Este ciclo de entrenamiento se repite continuamente. El primer modelo mejora su técnica hasta que logra engañar al segundo, produciendo un resultado final que resulta casi imposible de detectar como falso a simple vista. Debido a este proceso, las figuras públicas son las víctimas más habituales, ya que existe una enorme cantidad de contenido audiovisual disponible en internet para entrenar a estos algoritmos.
¿Por qué importa en seguridad? Riesgos y amenazas
La proliferación de los deepfakes plantea serios desafíos en el ámbito de la ciberseguridad y la sociedad en general. Entre los principales riesgos asociados a esta tecnología se encuentran:
- Fraude y estafas: Suplantación de identidad para cometer delitos financieros o engañar a organizaciones y ciudadanos.
- Desinformación e interferencia electoral: Difusión de noticias falsas y discursos de odio capaces de desestabilizar procesos democráticos.
- Acoso y vulneración de la intimidad: Uso de esta tecnología para crear pornografía de venganza, vídeos pornográficos no consentidos de celebridades o material de abuso.
Cómo protegernos y mitigar su impacto
Hacer frente a la amenaza de los deepfakes requiere un esfuerzo conjunto entre gobiernos, la industria tecnológica y los usuarios. Actualmente, las herramientas de detección de deepfakes han alcanzado un nivel de precisión del 86,6%, aunque el objetivo de la industria es desarrollar sistemas que garanticen hasta un 99% de seguridad y consistencia.
Tanto las empresas de tecnología de la información como las instituciones públicas están implementando recomendaciones y normativas para limitar su uso y mejorar los algoritmos de detección automática, ayudando a mitigar el impacto de esta desinformación en el entorno digital.
Referencia: Wikipedia