La inteligencia artificial está resucitando el horrible legado de los fanáticos, incluido el ex dictador alemán Adolf Hitler, a medida que los usuarios de TikTok utilizan las herramientas de inteligencia artificial de la aplicación para recrear discursos xenófobos de líderes fallecidos hace mucho tiempo.
Este fenómeno fue documentado recientemente en dos informes diferentes, uno elaborado por un grupo de vigilancia sin fines de lucro. Los medios importan para Estados Unidos y otro en investigación por Instituto de Diálogo Estratégico y SITE Intelligence Group, que lo publicó Correo de Washington. Los dos abrieron una pequeña red de cuentas que producían y distribuían versiones traducidas y dobladas de los discursos de Hitler.
Por qué los adolescentes cuentan sus secretos a desconocidos en Internet
Según una investigación de Media Matters, los audios generados por IA han obtenido millones de visitas, incluidos vídeos que se burlan del líder o convierten audios en memes. Otras cuentas parecían dedicarse a crear y compartir estos audios, a veces con mensajes abiertamente antisemitas. Los videos populares que usan dicho audio, a menudo estilizados con audio ralentizado y “reverberado”, se tradujeron con varios errores a partir de abril de 2024. Después de la publicación del informe, TikTok eliminó la cuenta de un usuario popular y las búsquedas relacionadas. “Hechos sobre el Holocausto” Una página que documenta el asesinato por parte de Hitler de millones de civiles judíos, personas discapacitadas, presos políticos, personas LGBTQ+ y rumanos.
En Correo de Washington informó que destacados grupos fascistas están elogiando el uso de la IA para difundir propaganda de odio, citando el aumento de jóvenes “campesinos sureños” involucrados en discursos de odio y comunidades en línea de derecha. Los expertos dijeron a la publicación que les preocupa que las herramientas de moderación de la plataforma, incluidas las de los sitios Meta y X, no puedan seguir el ritmo de la propagación de la IA.
Las mejores historias de Mashable
Ambos informes notaron una variedad de sentimientos positivos en las secciones de comentarios del video, con algunos usuarios elogiando abiertamente su figura histórica y su política, y señalando que muchos de los videos no presentaban abiertamente silbatos blancos para perros, alimentando temores de que los usuarios no conocen. según su contenido, se está volviendo radical.
Intentos similares de reescribir los legados de figuras históricas llegaron a TikTok durante el año pasado a través de la inteligencia artificial. en junio un cometió un error La versión interna de la nueva herramienta de avatar digital de IA de la aplicación, que permitía a sus usuarios generar anuncios utilizando las imágenes de los creadores, dio lugar al lanzamiento de varios vídeos generados por IA en los que aparecen avatares que recitan diversas retóricas supremacistas blancas, incluidas citas de mi guerra y “Carta a América” de Osama bin Laden. En 2023, vídeos de TikTok que leyeron la misma declaración de bin Ladena veces asociado con sentimientos supremacistas blancos, causó pánico mutuomientras los usuarios recontextualizaban estas palabras como una tesis antiimperialista a la luz del bloqueo de Gaza por parte de Israel y el apoyo del país al mismo.
En general, los grupos de vigilancia han documentado casos repetidos de actores nacionales y extranjeros que utilizan herramientas generadas por IA, incluidas falsificaciones digitales sintéticas (o “deepfakes”) de líderes políticos en el programa para difundir información falsa. Las cuentas de supremacistas blancos y pronazis también han crecido en la plataforma, trabajando con redes en sitios como Telegram para impulsar su contenido en algoritmos de redes sociales.
Según A. informe de julio Según el Instituto para el Diálogo Estratégico, TikTok tiene “cientos” de cuentas pronazis que en conjunto obtienen millones de visitas. La empresa, afirma la organización, no actuó con la suficiente rapidez para detener su propagación.
