Google ha dado un paso importante en su estrategia de transparencia al anunciar SynthID, una herramienta que añade una marca de agua digital a las imágenes generadas por inteligencia artificial (IA). Esta marca permite identificar fácilmente si una imagen ha sido creada por un modelo de IA generativo.
SynthID utiliza un identificador que se agrega directamente a los píxeles de una imagen, lo que lo hace imperceptible para el ojo humano. Además, esta marca de agua no compromete la calidad de la imagen y se mantiene incrustada en el archivo incluso si se le aplican filtros, recortes o conversiones a otros formatos.
La necesidad de una marca de agua en imágenes generadas por IA ha surgido debido al avance rápido de modelos como Midjourney o Stable Diffusion, que son capaces de generar contenido realista que puede engañar fácilmente al usuario común. Ejemplos de esto son las fotos del arresto de Donald Trump o del Papa Francisco con un abrigo acolchado, que se volvieron virales y obligaron a Midjourney a cancelar sus pruebas gratuitas.
Además de agregar una marca de agua, SynthID también puede escanear una imagen para determinar si ha sido generada por IA. La herramienta utiliza dos modelos de aprendizaje profundo y alinea visualmente el identificador con el contenido original para verificar su presencia.
Si bien SynthID no es infalible, Google seguirá perfeccionándola y planea aplicarla en otros tipos de contenido, como audio, video o texto. La herramienta estará disponible para un número limitado de personas que utilizan Imagen, un modelo de Vertex AI de Google.
Fuentes:
– DeepMind Blog
