En los últimos años, ha irrumpido en el debate público un término que parecería de ciencia ficción. La palabra deepfake se refiere a una tecnología basada en inteligencia artificial capaz de manipular imágenes, videos y audios con un nivel de realismo que hace muy difícil distinguir lo verdadero de lo falso. Su proliferación constituye todo un reto para la ciberseguridad.
El concepto surge de la unión de deep learning (aprendizaje profundo) y fake (falso). Gracias a esta técnica, es posible imitar la voz de una persona, alterar sus gestos en un video o incluso hacerle pronunciar frases que nunca dijo.
Lo que comenzó como una curiosidad en internet hoy supone un desafío real para empresas, instituciones y ciudadanos.
De la broma viral al fraude digital
Los primeros deepfakes eran meras bromas compartidas en redes sociales, pero rápidamente la tecnología se ha convertido en una herramienta de riesgo.
• Fraudes financieros:
En 2023, una empresa europea perdió más de 200.000 euros tras recibir una llamada con la voz falsa de su CEO pidiendo una transferencia urgente.
• Manipulación política:
Durante campañas electorales recientes en varios países se han difundido audios y videos falsos de candidatos, con gran repercusión mediática.
• Ciberacoso:
Gran parte de los deepfakes en la red se utilizan de manera dañina, especialmente para generar contenido sexual no consentido, afectando la privacidad y dignidad de muchas personas.
El salto de lo anecdótico a lo peligroso se ha producido en muy poco tiempo.
El impacto en la confianza
Uno de los mayores riesgos de los deepfakes es la erosión de la confianza. Si cualquier imagen o audio puede ser falsificado, ¿cómo sabemos en qué creer?
Incluso cuando un contenido falso es desmentido, el daño a la reputación ya está hecho. Además, la propia existencia de esta tecnología permite que alguien que realmente haya dicho o hecho algo pueda negarlo alegando que se trata de un deepfake.
En un momento donde la confianza es un valor esencial, estas amenazas adquieren una relevancia especial para el sector financiero y para la sociedad en su conjunto.
Oportunidades positivas
No todo en torno a los deepfakes es negativo.
También existen usos con un gran potencial innovador:
• Cine y entretenimiento, rejuveneciendo actores o recreando escenas históricas.
• Accesibilidad, con avatares digitales que traducen el habla en lengua de signos.
• Preservación de la memoria, con testimonios interactivos de personas que podrán ser consultados por generaciones futuras.
La clave, como en tantas tecnologías, está en cómo se utilicen.
Mirando al futuro
La evolución de los deepfakes nos recuerda que vivimos en una era donde la innovación tecnológica avanza más rápido que nunca. Nuestro reto como sociedad es aprovechar su potencial creativo y positivo, sin perder de vista la necesidad de proteger lo más valioso: la confianza.
En Globalcaja reafirmamos nuestro compromiso con la seguridad, la innovación responsable y el acompañamiento cercano a nuestros clientes, porque solo desde la confianza podremos seguir construyendo un futuro digital seguro para todos.
