Nueva herramienta ayuda a marcar con agua e identificar imágenes sintéticas creadas por Imagen
Las imágenes generadas por IA son cada día más populares. Pero, ¿cómo podemos identificarlos mejor, especialmente cuando parecen tan realistas?
Hoy, en colaboración con Nube de Googleestamos lanzando una versión beta de SynthID, una herramienta para marcar e identificar imágenes generadas por IA. Esta tecnología incorpora una marca de agua digital directamente en los píxeles de una imagen, haciéndola imperceptible para el ojo humano, pero detectable para su identificación.
SynthID se lanzará a un número limitado de IA de vértice clientes que usan Imagenuno de nuestros últimos modelos de conversión de texto a imagen que utiliza texto de entrada para crear imágenes fotorrealistas.
Las tecnologías de IA generativa están evolucionando rápidamente y las imágenes generadas por computadora, también conocidas como “imágenes sintéticas”, son cada vez más difíciles de distinguir de aquellas que no han sido creadas por un sistema de IA.
Si bien la IA generativa puede desbloquear un enorme potencial creativo, también presenta nuevos riesgos, como permitir a los creadores difundir información falsa, ya sea intencionalmente o no. Ser capaz de identificar el contenido generado por IA es fundamental para que las personas sepan cuándo interactúan con los medios generados y para ayudar a prevenir la difusión de información errónea.
Estamos comprometidos a conectar a las personas con información de alta calidad y a mantener la confianza entre creadores y usuarios en toda la sociedad. Parte de esta responsabilidad es brindar a los usuarios herramientas más avanzadas para identificar imágenes generadas por IA, de modo que sus imágenes (e incluso algunas versiones editadas) puedan identificarse en una fecha posterior.
Google Cloud es el primer proveedor de nube que ofrece una herramienta para crear imágenes generadas por IA de manera responsable e identificarlas con confianza. Esta tecnología se basa en nuestro enfoque para desarrollar e implementar IA responsable y fue desarrollada por Google DeepMind y perfeccionada en asociación con Google Research.
SynthID no es infalible contra manipulaciones extremas de imágenes, pero proporciona un enfoque técnico prometedor para capacitar a personas y organizaciones para trabajar con contenido generado por IA de manera responsable. Esta herramienta también podría evolucionar junto con otros modelos y modalidades de IA más allá de las imágenes, como audio, video y texto.
Nuevo tipo de marca de agua para imágenes AI
Las marcas de agua son diseños que se pueden superponer a las imágenes para identificarlas. Desde impresiones físicas en papel hasta texto translúcido y símbolos que se ven hoy en fotografías digitales, han evolucionado a lo largo de la historia.
Las marcas de agua tradicionales no son suficientes para identificar imágenes generadas por IA porque a menudo se aplican como un sello en una imagen y se pueden editar fácilmente. Por ejemplo, las marcas de agua discretas que se encuentran en las esquinas de una imagen se pueden recortar con técnicas de edición básicas.
Es difícil encontrar el equilibrio adecuado entre imperceptibilidad y solidez en las manipulaciones de imágenes. Las marcas de agua muy visibles, que a menudo se agregan como una capa con un nombre o logotipo en la parte superior de una imagen, también presentan desafíos estéticos para fines creativos o comerciales. Del mismo modo, algunas marcas de agua imperceptibles desarrolladas previamente se pueden perder mediante técnicas de edición simples como el cambio de tamaño.
Diseñamos SynthID para que no comprometa la calidad de la imagen y permita que la marca de agua permanezca detectable, incluso después de modificaciones como agregar filtros, cambiar colores y guardar con varios esquemas de compresión con pérdida, los más comúnmente utilizados para archivos JPEG.
SynthID utiliza dos modelos de aprendizaje profundo (para marcas de agua e identificación) que se han entrenado juntos en un conjunto diverso de imágenes. El modelo combinado está optimizado en una variedad de objetivos, incluida la identificación correcta del contenido con marca de agua y la mejora de la imperceptibilidad al alinear visualmente la marca de agua con el contenido original.
Enfoque robusto y escalable
SynthID permite a los clientes de Vertex AI crear imágenes generadas por IA de manera responsable e identificarlas con confianza. Si bien esta tecnología no es perfecta, nuestras pruebas internas muestran que es precisa frente a muchas manipulaciones de imágenes comunes.
El enfoque combinado de SynthID:
- marca de agua: SynthID puede agregar una marca de agua imperceptible a las imágenes sintéticas producidas por Imagen.
- Identificación: Al escanear una imagen en busca de su marca de agua digital, SynthID puede evaluar la probabilidad de que Imagen cree una imagen.
Esta herramienta proporciona tres niveles de confianza para interpretar los resultados de la identificación de marcas de agua. Si se detecta una marca de agua digital, es probable que Imagen genere parte de la imagen.
SynthID contribuye al amplio conjunto de enfoques para identificar contenido digital. Uno de los métodos más utilizados para identificar contenido es a través de metadatos, que proporcionan información como quién lo creó y cuándo. Esta información se almacena con el archivo de imagen. Las firmas digitales agregadas a los metadatos pueden mostrar si se ha modificado una imagen.
Cuando la información de metadatos está intacta, los usuarios pueden identificar fácilmente una imagen. Sin embargo, los metadatos se pueden eliminar manualmente o incluso perderse cuando se editan los archivos. Dado que la marca de agua de SynthID está incrustada en los píxeles de una imagen, es compatible con otros métodos de identificación de imágenes que se basan en metadatos y permanece detectable incluso cuando se pierden los metadatos.
¿Que sigue?
Para crear contenido generado por IA de manera responsable, Estamos comprometidos a desarrollar enfoques seguros y confiables. en cada paso del camino, desde la generación e identificación de imágenes hasta la alfabetización mediática y la seguridad de la información.
Estos enfoques deben ser sólidos y adaptables a medida que los modelos generativos avanzan y se expanden a otros medios. Esperamos que nuestra tecnología SynthID pueda funcionar en conjunto con una amplia gama de soluciones para creadores y usuarios de toda la sociedad, y continuamos evolucionando SynthID recopilando comentarios de los usuarios, mejorando sus capacidades y explorando nuevas funciones.
SynthID podría ampliarse para su uso en otros modelos de IA y estamos entusiasmados con el potencial de integrarlo en más productos de Google y ponerlo a disposición de terceros en un futuro cercano, lo que permitirá a las personas y organizaciones trabajar de manera responsable con contenido generado por IA.
Nota: El modelo utilizado para producir imágenes sintéticas en este blog puede ser diferente del modelo utilizado en Imagen y Vertex AI.