Google anunció el martes que existen nuevas formas para que los usuarios averigüen si una imagen fue creada utilizando inteligencia artificial (IA). Si bien el gigante tecnológico todavía está trabajando en el desarrollo de herramientas internas para marcar el contenido generado por IA, se unió a la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) como miembro del comité directivo en febrero. Después de trabajar con otros actores de la industria para desarrollar nuevos estándares técnicos, la compañía ahora los combina con los gráficos disponibles a través de sus dispositivos.
Google ayuda a los usuarios a identificar imágenes de IA
El peligro de las imágenes generadas por IA es que muchas imágenes creadas y mejoradas digitalmente son indistinguibles de las reales. Debido a esto, el problema de los deepfakes ha aumentado significativamente, donde una imagen real producida por IA que representa a una persona, lugar o evento se dice que es real para difundir mentiras.
Google dijo que publicación de blog que en la primera mitad del año trabajó con otros miembros del consorcio para introducir una nueva versión (2.1) del estándar técnico llamado Content Credentials. Se dice que es más seguro contra diferentes tipos de daños y tiene un requisito técnico más difícil. Esta limitación ahora se suma a las imágenes que se pueden visualizar usando las herramientas de Google.
El técnico dijo que los Datos se integrarán con las imágenes que aparecen en Google Imágenes, Lens y Circle to Search. Esto significa que cuando los usuarios van a la sección “Acerca de esta imagen” de una imagen, pueden verificar los metadatos C2PA que confirman si la imagen fue creada o editada usando herramientas de inteligencia artificial.
Además, Google ha declarado que tiene la intención de integrar metadatos C2PA utilizando sus sistemas publicitarios. Estos factores guiarán las estrategias centrales y operativas de la empresa en el futuro. Además, también está buscando formas de transmitir información C2PA a los espectadores de YouTube para ayudarlos a determinar si un video fue capturado con una cámara o creado digitalmente.
En particular, el gigante tecnológico está haciendo marcas de agua internas. tecnología para contenido de IA llamado SynthID. Este sistema fue creado por Google DeepMind e incrusta información en los píxeles de la imagen de tal manera que permanece invisible a la vista pero es visible cuando se analiza con herramientas especiales.