OpenAI ha vuelto a reducir sus operaciones centradas en la seguridad, disolviendo el AGI Readiness Group, que se dedica a prepararse para la inteligencia artificial general. Miles Brundage, asesor senior del equipo, dio la noticia en una publicación en Substack miércoles, que también confirmó su salida de la empresa.
OpenAI estima la ronda de financiación de la empresa en 157.000 millones de dólares
En la publicación, Brundage se refirió a la creciente necesidad de independencia en su trabajo, sugiriendo que su partida refleja un deseo de mayor libertad mientras continúa explorando el panorama en rápida evolución de la IA.
“Decidí que quería influir e influir en el desarrollo de la IA desde fuera de la industria”, dijo Brundage, y agregó: “Hice gran parte del trabajo que hice en OpenAI”.
La velocidad de la luz triturable
Brundage continuó expresando una preocupación más amplia, afirmando que “Ni OpenAI ni ningún otro laboratorio de vanguardia está listo, y tampoco lo está el mundo”. Según Brundage, este no es un sentimiento aislado: muchos en los rangos superiores de OpenAI comparten estas observaciones. En el caso del equipo de preparación de AGI, los antiguos miembros deberían ser reasignados a otros departamentos dentro de OpenAI.
Sam Altman ha dimitido como jefe del equipo de seguridad de OpenAI
Un portavoz de la empresa dijo a CNBC apoyan la decisión de Brundage de continuar. Sin embargo, el momento es difícil para OpenAI, que está navegando por la salida de la alta dirección en un momento en el que la estabilidad es clave. Aunque logró conseguir un investigador de inteligencia artificial superior de Microsoft, esta incorporación no llena muchos de los últimos vacíos en los primeros puestos de OpenAI.
Los cambios de liderazgo y la disolución del equipo no están ayudando a calmar las crecientes preocupaciones en torno a la presión de OpenAI sobre AGI, especialmente después de su controvertido anuncio de planes para convertirse en una empresa totalmente con fines de lucro después de comenzar su vida como una organización sin fines de lucro.
En mayo, la compañía disolvió su equipo SuperAlignment, un grupo dedicado a promover “avances científicos y técnicos para guiar y controlar sistemas de inteligencia artificial que son mucho más inteligentes que nosotros”. Casi al mismo tiempo, OpenAI también pasó a llamarse el líder definitivo en seguridad de IAgenerando sorpresa dentro de la comunidad de ética de la IA y más allá.
