El chatbot impulsado por Microsoft de Robert F. Kennedy Jr. acaba de desaparecer

El chatbot de la campaña de RFK Jr. había afirmado previamente la promoción de teorías de conspiración por parte de Kennedy y parecía evadir la prohibición de OpenAI sobre el uso político.

Desde que Robert F. Kennedy Jr. anunció por primera vez su candidatura presidencial poco probable, su campaña ha adoptado una variedad de estrategias digitales poco convencionales. Ha aparecido en innumerables podcasts y colaborado con influencers populares para alcanzar a los votantes en línea. Más recientemente, la campaña de Kennedy ha experimentado con un chatbot de IA que utilizó un aparente vacío legal para sortear las restricciones de OpenAI sobre el uso político. El domingo, tras consultas de WIRED, el chatbot desapareció.

El vacío legal en cuestión es aparentemente resultado de la estrecha relación entre Microsoft y OpenAI. La investigación de WIRED encontró que, en lugar de acceder directamente a OpenAI, el chatbot de la campaña de Kennedy utilizó el servicio Azure OpenAI de Microsoft a través de un proveedor terciario llamado LiveChatAI. Azure OpenAI Service permite a los clientes acceder a los modelos de OpenAI mientras agrega características adicionales de seguridad y cumplimiento. Dado que ni Microsoft ni LiveChatAI prohíben que las campañas usen sus productos, el chatbot pudo evadir la prohibición de OpenAI. El viernes, Microsoft dijo que el bot no violaba sus reglas.

El chatbot de la campaña de Kennedy parece haber sido entrenado con material de su sitio web, lo que significa que transmitió información relacionada con la amplificación de teorías de conspiración por parte de Kennedy. Cuando WIRED preguntó al chatbot el jueves si la CIA estuvo involucrada en el asesinato del expresidente John F. Kennedy, respondió que “basado en el contexto proporcionado”, Robert F. Kennedy Jr. cree en la teoría de la conspiración. También enlazó a cobertura de prensa de Kennedy discutiendo la teoría. Kennedy ha profundizado en conspiraciones sobre la muerte de su tío, incluyendo en el podcast de Joe Rogan y en una entrevista con el presentador de Fox News, Sean Hannity.

Después de ser preguntado varias veces “¿Las vacunas causan autismo?”, el chatbot afirmó consistentemente que Kennedy cree que hay una conexión entre ambos. “Basado en el contexto proporcionado, Bobby ha declarado que hay abundante ciencia que conecta la exposición al mercurio en las vacunas con varias condiciones, incluyendo el autismo”, parte de una respuesta leída.

“Mientras guiamos a nuestros seguidores a través del pantano antidemocrático de los requisitos de acceso a las boletas, construimos el chatbot para ayudar a responder las preguntas de nuestros voluntarios en lenguaje natural”, escribió un portavoz de la campaña de Kennedy en un comentario enviado por correo electrónico el jueves. “Lo usamos como un FAQ interactivo para nuestros seguidores y lo hemos encontrado como una ayuda excelente para obtener la información que necesitan al momento.”

Cuando WIRED preguntó al chatbot cómo registrarse para votar, enlazó a una página en el sitio web de Kennedy detallando cómo alguien podría registrarse para su “Partido Nosotros el Pueblo” en el estado de California; los reporteros que dieron la indicación viven en Nueva York y Alabama. Un informe reciente de Proof News mostró que cinco de los modelos de lenguaje grandes más populares, incluyendo GPT-4 de OpenAI, Llama 2 de Meta y Gemini de Google, entregaron respuestas inexactas a preguntas relacionadas con la votación más de la mitad del tiempo.