Cómo identificar imágenes generadas por IA

Primero, la mala noticia: las imágenes generadas por IA son realmente difíciles de detectar. Las señales obvias que solían ser reveladoras (manos torcidas y texto confuso) se están volviendo cada vez más raras a medida que los modelos de IA mejoran a un ritmo vertiginoso.

Ya no se sabe qué imágenes se crean utilizando herramientas populares como Midjourney, Stable Diffusion, DALL-E y Gemini. De hecho, las imágenes generadas por IA engañan aún más a los humanos, lo que ha creado un grave problema en la difusión de información falsa. La buena noticia es que normalmente no es imposible identificar imágenes generadas por IA, pero requiere más esfuerzo que antes.

Detectores de imágenes con IA: proceda con precaución

Estas herramientas utilizan visión por computadora para examinar patrones de píxeles y determinar la probabilidad de que la IA genere una imagen. Esto significa que los detectores de IA no son completamente infalibles, pero es una buena manera para que la persona promedio determine si vale la pena investigar una imagen, especialmente cuando no es inmediatamente obvia.

“Desafortunadamente, para el ojo humano -y Allá son lee “Hay aproximadamente un cincuenta por ciento de posibilidades de conseguirlo”, dijo Anatoly Kvitnitsky, director de la plataforma de reconocimiento de imágenes por IA. IA o no. “Pero para la detección de imágenes por IA, debido a los patrones similares a píxeles, todavía existen, incluso cuando los modelos mejoran”. Kvitnicki afirma que AI or Not logra una precisión promedio del 98%.

Otros detectores de IA que suelen tener una alta tasa de éxito incluyen Moderación de caja, detector SDXL en el regazo, y Luz. Probamos diez imágenes generadas por IA en todos estos detectores para ver cómo funcionaban.

IA o no

AI o No, a diferencia de otros detectores de imágenes de IA, da un simple “sí” o “no”, pero dice correctamente que la imagen fue generada por IA. Con el plan gratuito, obtienes 10 cargas por mes. Probamos con 10 imágenes y obtuvimos una tasa de éxito del 80%.

AI o no identificar adecuadamente esta imagen como generada por AI.
Crédito: Imagen de captura de pantalla: Mashable / AI o no

Moderación de caja

Probamos la herramienta de demostración gratuita Hive Moderation con más de 10 imágenes diferentes y obtuvimos una tasa de éxito general del 90 por ciento, lo que significa que existe una alta probabilidad de que hayan sido generadas por IA. Sin embargo, no logró capturar las cualidades de IA de una imagen artificial de un ejército de ardillas listadas escalando una pared de roca.

Queríamos creer que el ejército de ardillas listadas era real, pero el detector de IA se equivocó.
Crédito: Imagen de captura de pantalla: Mashable / Moderación de Hive

detector SDXL

SDXL Detector en Hugging Face tarda unos segundos en cargarse y es posible que obtengas algunos errores en el primer intento, pero es completamente gratis. En su lugar, también proporciona un porcentaje de probabilidad. Dijo que el 70 por ciento de las imágenes generadas por IA tienen una alta probabilidad de ser generadas por IA.

El detector SDXL detecta correctamente la impactante imagen de Barack Obama generada por Grok-2 en un baño público
Crédito: Captura de pantalla: Detector Mashable / SDXL

Luz

Illuminarty tiene un plan gratuito que proporciona detección básica de imágenes con IA. De las 10 imágenes generadas por IA que subimos, solo el 50 por ciento se clasificó como muy improbable. Para consternación de los biólogos de roedores, le dio a la infame imagen del pene de una rata la menor posibilidad de que se reprodujera una IA.

Mmmm, eso es lo que parecía.
Crédito: Imagen de captura de pantalla: Mashable / Illuminarty

Como puede ver, los detectores de IA son en su mayoría muy buenos, pero no perfectos y no deben usarse como la única forma de validar una imagen. A veces, pueden detectar imágenes engañosas generadas por la IA, aunque parezcan reales, y otras veces se confunden con imágenes que son creaciones artificiales. Por eso es mejor una combinación de métodos.

Otros consejos y trucos

Búsqueda inversa de imágenes

Otra forma de detectar imágenes generadas por IA es una simple búsqueda inversa de imágenes, recomienda un profesor de informática y director del Centro de Inteligencia Web de la Facultad de Computación y Medios Digitales de la Universidad DePaul en Chicago. Al cargar la imagen en Google Imágenes o en una herramienta de búsqueda de fotografías, puede rastrear el origen de la imagen. Si una foto muestra un evento noticioso real, “se puede saber si es falso o si no sucedió”, dijo Mobasher.

Herramienta de Google “Acerca de esta imagen”

La Búsqueda de Google también tiene una función “Acerca de esta imagen” que proporciona información contextual, como cuándo se indexó la imagen por primera vez y dónde se encontró en la web. Esto se puede encontrar haciendo clic en el ícono de tres puntos en la esquina superior derecha de la imagen.

Señales que se pueden ver a simple vista.

Hablando de eso, si bien las imágenes generadas por IA se están volviendo terriblemente buenas, aún vale la pena buscar personajes reveladores. Como se mencionó anteriormente, es posible que ocasionalmente veas una imagen con manos torcidas, cabello que no parece perfecto o texto dentro de la imagen que sea incorrecto o que no tenga sentido. Nuestro sitio hermano PCMag romper Recomienda buscar objetos borrosos o distorsionados en el fondo, u objetos con imperfecciones – y nos referimos a agujeros, impecables – piel.

A primera vista, la imagen de Midjourney a continuación parece un pariente de Kardashian promocionando un libro de cocina que fácilmente podría ser de Instagram. Pero tras una inspección más detallada, se puede ver una caña de azúcar torcida, extremidades torcidas y una piel un poco plana.

A segunda vista, no todo es lo que parece en esta imagen.
Crédito: Mashable / Midjourney

“La IA puede ser buena para crear el panorama general, pero el diablo está en los detalles”, escribió Sascha Luciani, jefe de IA y clima de Hugging Face, en un correo electrónico a Mashable. Busque “principalmente inconsistencias menores: dedos adicionales, joyas asimétricas o marcas faciales, inconsistencias en los objetos (asa adicional en la tetera)”.

Mobasher, que también trabaja en el Instituto de Ingenieros Eléctricos y Electrónicos (IEEE), dijo que hay que acercarse para buscar “detalles extraños”, como píxeles faltantes y otras inconsistencias como pequeños aretes desalineados.

“Es posible que una parte de la misma imagen esté desenfocada, pero otra parte está muy detallada”, dijo Mobasher. Esto es especialmente cierto en el contexto de las imágenes. “Si tienes personajes con texto y cosas así de fondo, muchas veces están rotos o a veces ni siquiera parecen lenguaje real”, dijo.

Esta imagen de un desfile de furgonetas Volkswagen en la playa fue creada por Google Image 3. La arena y los autobuses lucen impecables. Pero si miras de cerca, verás letras en el tercer autobús donde el logotipo de VW debería ser simplemente un símbolo desfigurado, y en el cuarto autobús hay manchas amorfas.

Estamos seguros de que el desfile de autobuses VW ocurrió en algún momento, pero no fue así.
Crédito: Mashable / Google

Tenga en cuenta el logotipo desfigurado y las manchas extrañas.
Crédito: Mashable / Google

Todo depende de la alfabetización en IA

Ninguno de los métodos anteriores será muy útil si, al consumir medios, especialmente las redes sociales, no te detienes primero a preguntarte si lo que estás viendo es IA generada en primer lugar. Al igual que la alfabetización mediática, que se convirtió en un concepto popular durante la campaña electoral de desinformación de 2016, la alfabetización en inteligencia artificial es la primera línea de defensa para determinar qué es real o no.

Los investigadores de IA Dury Long y Brian Magerko cierto La alfabetización en IA se define como “un conjunto de competencias que permiten a las personas evaluar críticamente las tecnologías de IA; comunicarse e interactuar eficazmente con la IA; y utilizar la IA como herramienta en línea, en el hogar y en el lugar de trabajo”.

Es importante saber cómo funciona la IA generativa y qué buscar. “Puede sonar cliché, pero tomarse el tiempo para investigar la fuente y el origen del contenido que ves en las redes sociales es un buen comienzo”, dijo Lucioni.

Pregúntate sobre la fuente de la imagen en cuestión y el contexto en el que aparece. ¿Quién publicó la foto? ¿Qué dice el texto adjunto (si lo hay) sobre esto? ¿Otras personas o medios han publicado esta imagen? ¿Cómo te hace sentir la imagen o el texto que la acompaña? Si parece que está diseñado para molestarte o engañarte, piensa por qué.

Cómo algunas organizaciones están abordando los profundos desafíos de la IA y la desinformación

Como hemos visto, hasta ahora los métodos mediante los cuales los humanos pueden distinguir las imágenes de IA de las imágenes reales son inestables y limitados. Peor aún, la difusión de imágenes ilegales o dañinas generadas por la IA tiene un doble filo porque los mensajes difunden falsedades, lo que luego genera desconfianza en los medios. Pero desde el nacimiento de la IA, han surgido varias iniciativas para fortalecer la confianza y la transparencia.

En Coalición por la procedencia y autenticidad del contenido (C2PA) fue fundada por Adobe y Microsoft e incluye empresas de tecnología como OpenAI y Google, así como empresas de medios como Reuters y la BBC. C2PA proporciona un clic Referencias de contenido para determinar el origen de las imágenes y si son generadas por IA. Sin embargo, depende de los creadores adjuntar referencias de contenido a la imagen.

A la izquierda, Laboratorios Starling La Universidad de Stanford está trabajando arduamente para confirmar las imágenes reales. Starling Lab examina “registros digitales confidenciales, como documentación de abusos de derechos humanos, crímenes de guerra y testimonios de genocidio” y almacena imágenes digitales certificadas de forma segura en redes descentralizadas para que no puedan ser manipuladas. El trabajo del laboratorio no está orientado al usuario, pero su biblioteca de proyectos es un buen recurso para cualquiera que busque verificar imágenes de, por ejemplo, la guerra en Ucrania o la transición presidencial de Donald Trump a Joe Biden.

Los expertos suelen hablar de imágenes de IA en el contexto del fraude y la desinformación, pero las imágenes de IA no lo son. siempre Quería engañarse a sí mismo. Las imágenes de IA a veces son sólo bromas o memes sacados de su contexto original, o son anuncios vagos. O tal vez sean simplemente una forma de expresión creativa con tecnología nueva e interesante. Pero para bien o para mal, las imágenes de IA son ahora una realidad. Y depende de ti descubrirlos.

Estamos parafraseando al oso Smokey, pero lo entiende.
Crédito: Mashable / xAI