No se necesita mucho para crear una buena mirada en profundidad hoy en día, especialmente cuando alguien tiene acceso a herramientas de inteligencia artificial, una computadora para juegos decente y montones de muestras de audio y video de la persona que están tratando de identificar.
Los estafadores están utilizando clones de video y audio en tiempo real para estafar a todos, desde empresas que creen que están transfiriendo dinero a un ejecutivo hasta padres que entran en pánico cuando reciben una llamada de ayuda de alguien que creen que es su hijo.
Y ahora, los vídeos falsos cada vez más convincentes, algunos de los cuales se vuelven a publicar en las redes sociales y se amplifican por personajes como Donald Trump y Elon Musk, se están utilizando para engañar a los estadounidenses antes de una elección principal: la sesión de Samhna. A los expertos les preocupa que estos hechizos profundamente arraigados puedan afectar cómo o incluso si la gente vota.
“Es importante que la gente sea consciente de estas cosas, porque faltan tres meses para las elecciones y ya está sucediendo”, dijo Brandon Kovacs, equipo rojo senior de la firma de ciberseguridad Bishop Fox. Los equipos rojos ayudan a las empresas a profundizar en sus defensas cibernéticas atacándolas para encontrar agujeros de seguridad.
La desinformación electoral no es nada nuevo, ya sea que la difundan políticos o enemigos de Estados Unidos. Lo nuevo para la carrera presidencial de 2024 es el auge de herramientas abiertas impulsadas por IA, con tutoriales de YouTube, que permiten a casi cualquier persona crear ideas potencialmente convincentes y utilizarlas para difundir la desinfección.
“No es como si estuvieras usando alguna herramienta secreta loca”, dijo Kovacs. “Todo el material está listo para funcionar”.
Brandon Kovacs, del obispo Fox, muestra lo fácil que es excitar a alguien convirtiéndose él mismo en una colega.
Esa es una de las principales razones por las que Kovacs pasó un fin de semana largo a principios de este mes en la conferencia Defcon en Las Vegas demostrando en AI Village el gran evento en el que se pueden crear vídeos falsos. La reunión anual reúne a decenas de miles de piratas informáticos y otros profesionales de la ciberseguridad.
Usando solo una computadora portátil para juegos de consumo, una cámara DSLR básica, algunas luces y una pantalla verde, Kovacs transformó a los entusiastas asistentes de Defcon en todos, desde uno de los mejores dispositivos de su equipo hasta celebridades como Trump, Jackie Chan y Keanu Reeves.
Si bien es cierto que los resultados no fueron perfectos, fue sorprendente lo bien que funcionó el software de cambio de rostro. Los asistentes se transformaron en su persona favorita en una pantalla de televisión junto a ellos en tiempo real. Las escenas de fondo, como una oficina o una sala de redacción de televisión, reemplazaron la pantalla verde y accesorios como pelucas ayudaron a enmarcar la cara intercambiada y agregaron elementos de movimiento natural que hicieron que la imagen general fuera más realista.
Cuando el asistente se movió y habló, la imagen también se hizo más profunda. Las voces también se clonaron en tiempo real, pero eran difíciles de escuchar en el abarrotado centro de conferencias. El retraso del vídeo fue mínimo y Kovacs dijo que usar una computadora de mayor potencia en lugar de un modelo de consumo lo habría reducido en gran medida.
El objetivo de los programas era concienciar a la gente sobre cómo han llegado los deepfakes, así como ayudar a quienes protegen los sistemas informáticos a construir mejores modelos para detectarlos. En concreto, los datos de Kovacs se utilizarán para alimentar un modelo de detección profunda en el que ha estado trabajando la Agencia de Proyectos de Investigación Avanzada de Defensa.
Deepfakes como desinformación
Los deepfakes no tienen que ser nuevos para ser convincentes, especialmente si los difunde alguien con un perfil alto.
Trump publicó fotos recientementeal menos algunos de ellos parecen ser generados por IA, según su cuenta de Truth Social, lo que significó que contaba con el apoyo de la megaestrella Taylor Swift y sus fanáticos. Las imágenes, a las que añadió el texto “Acepto”, fue publicado originalmente en Xanteriormente conocido como Twitter, con un usuario que lo identificó como un satírico. Una de las imágenes publicadas nuevamente en la cuenta Truth Social de Trump incluso tiene la palabra “sátira” en el texto de la imagen.
Por otro lado, Trump también lo es acusó falsamente la campaña de la vicepresidenta Kamala Harris de hacer una foto en profundidad tomada en el Aeropuerto Metropolitano del Condado de Wayne de Detroit, diciendo que “deseaba que AI lo hiciera” para mostrar una gran multitud que, según él, no estaba allí. Pero varias otras fotos y videos del evento que muestra una multitud de tamaño similar a la que se ve en la foto de la campaña de Harris. Los periodistas locales que asistieron al evento estimaron que la multitud era de unas 15.000 personas.
En la misma publicación de Truth Social, Trump también expresó sus falsas afirmaciones sobre el fraude electoral por parte de los demócratas. Casi cuatro años después de haber sido destituido del cargo, Trump sigue propagando la mentira de que las elecciones de 2020 estuvieron amañadas, a pesar de que no hay evidencia real que lo demuestre.
Los representantes de la campaña de Trump y Swift no respondieron a los correos electrónicos en busca de comentarios.
Por otra parte, Elon Musk, el propietario de la plataforma X que ha apoyado a Trump, se metió en problemas en julio después de Le envié un vídeo a X. que utilizó tecnología de clonación de voz para reproducir la voz de Harris, creando una voz en off profunda para reproducir imágenes de uno de sus videos de campaña.
Musk no calificó la publicación como una sátira, pero luego de ser criticado aclaró como tal.
Todavía está bien ser gracioso, ¿verdad?
Ya sea que provenga de presentadores de programas de entrevistas nocturnos o de Internet, es difícil imaginar la política estadounidense moderna sin una sátira que, de hecho, a veces podría brindar a la gente información errónea. Pero los deepfakes pueden llevar las cosas a un nuevo nivel cuando las personas detrás de ellos los utilizan deliberadamente para difundir desinformación en su propio beneficio.
Y Adam Marrè, director de seguridad de la información de la empresa de ciberseguridad Arctic Wolf, dice que estos hechizos profundos necesitan convencer a muy pocas personas de que sean efectivos.
“A medida que la gente navega por sus feeds, los verá y creo que tal vez algunos de ellos no se den cuenta de que son cosas profundas, o tal vez ni siquiera les importen”, dijo Marrè. “Y todo eso va a moldear una opinión de cierta manera. “
Por eso, dice, es vital que las empresas de redes sociales, así como las empresas de inteligencia artificial, hagan todo lo posible para sacar a la luz a quienes están detrás de un daño profundo.
“Sin embargo, todavía me preocupa que dependamos de su buena disposición, de su deseo de ser buenos ciudadanos, para que lo hagan”, dijo. “No existe una base regulatoria que podamos usar, ni que la gente pueda implementar políticas”. este. Eso es algo que todavía necesitamos”.
