Google DeepMind presentó el miércoles una nueva tecnología de marcas de agua impulsada por inteligencia artificial. Llamada SynthID, la herramienta de marca de agua de inteligencia artificial (IA) se puede utilizar en una variedad de formatos que incluyen texto, imágenes, videos y audio. Sin embargo, por ahora, sólo ofrece una herramienta de marca de agua de texto a empresas y desarrolladores. La empresa tiene la intención de adoptar completamente la herramienta para que el contenido generado por IA pueda verse fácilmente. Las personas y las empresas pueden acceder a la herramienta a través de una versión actualizada del kit de herramientas de IA generativa responsable del gigante tecnológico con sede en Mountain View.
Tecnología de marca de agua de texto con IA de código abierto Google DeepMind
a un la oficina de correos en X (anteriormente conocido como Twitter), se anunció el tráfico oficial de Google DeepMind para que la marca de agua de texto de SynthID esté disponible gratuitamente para desarrolladores y empresas. Además del Responsible GenAI Toolkit, también se puede descargar de la lista Hugging Face de Google.
El texto generado por IA ha comenzado a inundar Internet. El laboratorio de inteligencia artificial de Amazon Web Services publicó un estudiar a principios de este año, que afirmó que aproximadamente el 57,1 por ciento de todas las oraciones en Internet traducidas a dos o más idiomas se pueden generar utilizando herramientas de inteligencia artificial.
Si bien los chatbots de IA que inundan Internet con texto generado por IA pueden parecer spam inofensivo, tienen un lado oscuro. En manos de malos actores, las herramientas de inteligencia artificial pueden usarse para generar información falsa o engañosa a gran escala. Dado que una gran parte de los debates públicos tienen lugar en línea, dichas acciones pueden influir en acontecimientos reales, como las elecciones, y utilizarse para crear propaganda contra figuras públicas.
De todos los métodos, el texto generado por IA ha demostrado ser la tarea más difícil hasta el momento. Esto se debe principalmente a que no es posible poner marcas de agua en las palabras, e incluso si lo fuera, los malos actores siempre podrían cambiar el contenido utilizando el segundo ciclo de producción.
Sin embargo, SynthID de Google DeepMind utiliza un nuevo método para marcar el texto con marcas de agua generado por IA. La aplicación utiliza el aprendizaje automático para predecir qué palabras es probable que aparezcan después de una palabra determinada en una oración. Por ejemplo, considere la frase “John se sintió muy cansado después de trabajar todo el día”. Aquí sólo pueden aparecer unas pocas palabras después de la palabra “muy”.
Basándose en el análisis de los patrones de generación de contenidos de diferentes modelos de IA, SynthID puede predecir la palabra que aparecerá después de “muy” y sustituirla por otra frase en su base de datos. Una herramienta de marca de agua incrustará dichas palabras en toda la sección de contenido. Posteriormente, cuando la aplicación analiza el contenido generado por la IA, busca la cantidad de dichas palabras para determinar su autenticidad.
En particular, para imágenes y vídeos, SynthID añade una marca de agua directamente a los píxeles de los fotogramas para que permanezcan invisibles pero aún puedan verse en el dispositivo. Para el sonido, las ondas sonoras primero se convierten en un espectrógrafo y se agrega una marca de agua a los datos visibles. Actualmente, esta capacidad no está disponible para nadie fuera de Google.
