Los deepfakes, imágenes y vídeos hiperrealistas generados por inteligencia artificial, se han convertido en una plaga en internet, especialmente en el ámbito pornográfico sin consentimiento. España también ha sido afectada por este fenómeno, con casos de famosas como la cantante Rosalía y la modelo Laura Escanes siendo víctimas de falsos desnudos.
La detección de fotografías falsas de desnudos de adolescentes en Almendralejo, Badajoz, demuestra que la violencia machista se ha extendido a España mediante la creación de deepfakes maliciosos. Estos contenidos están generados por aplicaciones de inteligencia artificial de fácil acceso, que utilizan técnicas de aprendizaje mecánico profundo y redes neuronales generativas antagónicas para desarrollar reproducciones hiperrealistas.
Según la compañía de investigación Sensity AI, en el 95% de los casos la intención de estos deepfakes es generar pornografía sin consentimiento y las mujeres son las principales víctimas. Estos contenidos se duplican cada seis meses en internet y acumulan más de 134 millones de visualizaciones. Estados Unidos, Reino Unido y Corea del Sur lideran las denuncias, pero la lacra también se ha extendido a España.
Diversas empresas han comenzado a tomar medidas en la lucha contra los deepfakes, como limitar la generación de imágenes violentas o desarrollar tecnologías para evitar la creación de reproducciones fotorrealistas de rostros de individuos reales. Sin embargo, muchas aplicaciones continúan operando libremente en la red, y la misma inteligencia artificial utilizada para crear las imágenes facilita eludir los controles.
La utilización de deepfakes de mujeres es considerada un problema de violencia machista. El Instituto Europeo para la Igualdad de Género los incluye en su informe sobre ciberviolencia contra las mujeres como una forma más de agresión machista. Expertos en derecho digital abogan por la identificación inequívoca de los contenidos como falsos y por rastreadores automáticos de estas creaciones, así como la incorporación del concepto de pseudopornografía en la legislación.
Fuentes: El País Tecnología
