El Comité de Industria y Reguladores del Gobierno de la India ha establecido un conjunto de informes junto con requisitos de presentación de informes y en los próximos años se debería implementar un plan para detener las quejas y un estricto plan de embarazo en la India.
«Este (informe) es muy dinámico, seguro y despreocupado. Tenemos que ver cómo lo eliminamos de dos años», dijo el consultor principal AJay Kumay Kumar Sod. «Tenemos que ver cómo presentamos lo que está sucediendo… el sufrimiento antes de castigarlo. Esa no es la respuesta.»
Las recomendaciones del Comité, que actualmente no están implementadas por ley, requieren que las empresas desarrollen y se comprometan a cumplir con las leyes existentes y los principios voluntarios sobre privacidad, equidad, seguridad y transparencia. Recomienda que las empresas de servicios realicen actualizaciones transparentes y desarrollen controles de privacidad en sus sistemas para reflejar las obligaciones de presentación de informes que los convierten en sistemas necesarios y fortalecen la privacidad.
Al mismo tiempo, el enfoque proporcional, el enfoque en lo proporcional, el enfoque en la crisis que amenaza la vida, los medios amenazantes y el trabajo en todo el grupo directivo estadounidense (AIG) ofrecen un control continuo.
El comité dice que la rendición de cuentas debería difundirse claramente en toda la cadena de valor de la IA. «La rendición de cuentas debe definirse claramente sobre la base de las operaciones, el riesgo de daño y las condiciones propicias. La rendición de cuentas se garantiza a través de diversos mecanismos políticos, técnicos y de mercado», señaló.
Se espera que las organizaciones tengan estructuras y estructuras de gestión para definir responsabilidades en cada etapa de desarrollo y despliegue de responsabilidades. El informe recomienda publicar publicaciones de transparencia que proporcionen pistas de auditoría y canales de quejas a los que los usuarios puedan acceder fácilmente.
«El informe es claro en que estas medidas son los pasos necesarios. El cumplimiento voluntario se complementará con incentivos de mercado, orientación de la industria y mecanismos independientes, aunque Jamila Sahiba se creará de forma variable», afirmó el director de Diálogo, que participa en el análisis técnico.
El informe también pide supervisión humana de los sistemas de IA de alto riesgo. Incluye la construcción de un «bucle humano—in-in» en puntos de decisión clave para que los humanos puedan revisar o anular los resultados de Ain. En entornos acelerados donde no es posible el control humano directo, el Comité recomienda salvaguardias como rotondas, controles automáticos y restricciones a nivel de sistema. También exige su control, inspección y auditoría periódica para garantizar que se encuentra dentro de los límites establecidos y que los riesgos potenciales se detectan y gestionan tempranamente.
El Informe de Supresión de Quejas establece que las empresas deben separar las quejas y las quejas de los informes de incidentes. Estos deben estar disponibles en varios idiomas, responder dentro de un período de tiempo específico y estar restringidos a todos los usuarios limitados. Esto se suma al hecho de que la retroalimentación de las quejas se puede utilizar para resolver problemas y reducir riesgos futuros. El informe también insta a los reguladores a abordar formatos y procedimientos comunes para que, especialmente en áreas críticas, se aborden de manera rápida y consistente.
«La idea es reconocer que hay diferentes actores en la cadena de valor y en los ecosistemas existentes que deberían pensar que van en contra de las leyes existentes», dijo el profesor del IIT Madras y presidente del comité.
El comité también describe un plan paso a paso para implementar sus recomendaciones. En el corto plazo, pide la creación del AGG, el Comité de Expertos en Tecnología y Políticas (TPEC) y el Instituto de Seguridad de IA (AISI), mientras que se requiere el marco de riesgos y criterios claros de responsabilidad. AISI, establecido recientemente como parte de la misión de la India de recomendar un Comité Central para guiar el desarrollo y uso seguro y confiable de la IA en la India.
A mediano plazo, el informe propone estándares comunes de seguridad y equidad, operadores de TI nacionales para bases de datos nacionales de IA y arenas regulatorias en dominios saturados. A largo plazo, el Comité ha promovido la plena integración en la infraestructura digital de la India y la cooperación internacional en materia de seguridad de la IA y políticas más amplias.
Si bien las recomendaciones no son vinculantes, el informe señala que están destinadas a ser asimiladas tanto por actores públicos como privados. «Estas recomendaciones son recomendaciones por naturaleza. El gobierno de la India puede revisar su implementación a través de medidas políticas, estándares y regulaciones apropiadas», dijo.
