El gobernador de California, Gavin Newsom, vetó el domingo un controvertido proyecto de ley de seguridad de la inteligencia artificial después de que la industria tecnológica expresara su oposición, diciendo que podría expulsar a las empresas de inteligencia artificial del estado y sofocar la innovación.
Newsom dijo que el proyecto de ley “no considera si los sistemas de IA se utilizan en áreas de alto riesgo, que implican la toma de decisiones críticas o el uso de datos confidenciales” y aplicaría “estándares más estrictos incluso en trabajos originales, siempre que el sistema principal los utilice”. “.
Newsom dijo que ha pedido a los principales expertos en innovación de IA que ayuden a California a “crear consejos de trabajo” centrados en “desarrollar investigaciones basadas en la ciencia”. También ordenó a las agencias gubernamentales que ampliaran su evaluación de riesgos de eventos potencialmente peligrosos relacionados con el uso de la IA.
La IA generativa, que puede generar texto, fotografías y videos en respuesta a entradas abiertas, ha generado entusiasmo y temor de que pueda hacer que los empleos queden obsoletos, impulsar las elecciones y dejar fuera de la competencia a las personas, además de generar efectos adversos.
El autor del proyecto de ley, el senador estatal demócrata Scott Wiener, dijo que la legislación es necesaria para proteger al público antes de que el desarrollo de la IA se vuelva descontrolado o descontrolado. La industria de la IA está creciendo rápidamente en California y algunos líderes cuestionan el futuro de estas empresas en el estado si el proyecto de ley se convierte en ley.
Wiener dijo el domingo que el veto hace que California sea insegura y significa que “las empresas que se comprometen a crear tecnologías muy poderosas no tienen restricciones vinculantes”. Añadió que “los compromisos voluntarios de la industria son imperfectos y rara vez funcionan bien para el bien público”.
“No podemos esperar a que se produzca una crisis importante antes de tomar medidas para proteger al público”, dijo Newsom, pero añadió que no estaba de acuerdo: “tenemos que encontrar una solución que no esté basada en un análisis riguroso de las capacidades de la IA”. “
Newsom dijo que trabajará con la legislatura en la legislación sobre IA durante la próxima sesión. Se produce cuando la legislación en el Congreso de Estados Unidos para imponer salvaguardias se ha estancado y la administración Biden está avanzando propuestas para regular la IA.
Newsom dijo que “el enfoque de California por sí solo sería apropiado, especialmente en ausencia de una acción federal por parte del Congreso”.
La Cámara del Progreso, una asociación de la industria tecnológica, elogió el veto de Newsom diciendo que “la economía tecnológica de California siempre ha prosperado gracias a la competencia y la apertura”.
Entre otras cosas, la medida habría exigido una revisión de seguridad para muchos modelos avanzados de IA cuyo desarrollo costó más de 100 millones de dólares (alrededor de 838 millones de rupias) o que requieren una cantidad definida de potencia informática. Los desarrolladores de software de IA administrado por el gobierno también necesitarían definir formas de desactivar los modelos de IA, lo que en la práctica sería un interruptor de apagado.
El proyecto de ley habría creado una agencia federal para supervisar el desarrollo de los llamados “modelos de frontera” que exceden las capacidades de los modelos avanzados existentes.
Este proyecto de ley enfrentó una fuerte oposición de varios grupos. Google de Alphabet, OpenAI respaldado por Microsoft y Meta Platforms, todos los cuales están desarrollando modelos de inteligencia artificial, han expresado preocupación por la propuesta.
Algunos demócratas en el Congreso de Estados Unidos, incluida la representante Nancy Pelosi, también se oponen. Entre los patrocinadores se encontraba el director ejecutivo de Tesla, Elon Musk, que también dirige una empresa de inteligencia artificial llamada xAI. Anthropic, respaldada por Amazon, dijo que los beneficios del proyecto de ley probablemente superarían los costos, aunque agregó que todavía hay algunas cuestiones que parecen preocupantes o poco claras.
Newsom ha firmado por separado una legislación que exige que el estado revise las posibles amenazas que plantea la IA generativa a la infraestructura crítica de California.
El estado está analizando los riesgos de la infraestructura eléctrica con los proveedores del sector eléctrico en el pasado y llevará a cabo una evaluación de riesgos similar con los proveedores de infraestructura de agua el próximo año y más tarde con el sector de las telecomunicaciones, dijo Newsom.
© Thomson Reuters 2024
(Esta historia no ha sido editada por el personal de NDTV y se basa en una fuente sindicada).
