Google ha presentado su nueva herramienta llamada SynthID, que permite agregar marcas de agua digitales a las imágenes generadas por Inteligencia Artificial (IA), con el objetivo de diferenciarlas de las imágenes reales. Esta herramienta ha sido desarrollada por el equipo de Google DeepMind en colaboración con Google Cloud y Google Research.
El uso de la IA generativa ha aumentado en la creación de imágenes desarrolladas por computadora o imágenes sintéticas. Sin embargo, estas imágenes generadas por IA presentan riesgos como la difusión de información falsa y la violación de los derechos de autor. Para abordar estos problemas, Google ha desarrollado SynthID, una tecnología que agrega una marca de agua digital en los píxeles de la imagen.
La marca de agua es imperceptible para el ojo humano, pero puede ser detectada mediante un programa informático. SynthID utiliza dos modelos de aprendizaje profundo, uno para crear las marcas de agua y otro para su identificación. Estos modelos han sido entrenados en un grupo diverso de imágenes.
La herramienta permite identificar si una imagen ha sido generada por IA o si es una imagen real. Sin embargo, Google reconoce que SynthID no es infalible contra manipulaciones extremas de imágenes, aunque representa un enfoque prometedor para trabajar con contenido generado por IA de manera responsable.
En el futuro, la tecnología podría evolucionar para implementarse en otros tipos de contenido, como vídeos, audios y texto. Actualmente, SynthID está en desarrollo y se ha lanzado una versión beta para un número limitado de clientes de Vertex AI que utilizan Imagen, uno de los últimos modelos de conversión de texto a imagen de Google.
Fuentes:
– Google presenta SynthID, una herramienta para marcar imágenes generadas por IA (El Espectador)
