¿Qué pasaría si tuvieras que mostrar una identificación para usar Internet?
Ese es el concepto detrás de un papel nuevo con investigadores de inteligencia artificial de instituciones reconocidas, incluidas OpenAI, la Universidad de Harvard y Microsoft, que solicitan certificados de personalidad o una nueva forma de demostrar nuestra humanidad en línea.
Los investigadores argumentan que una IA cada vez más capaz, que puede imitar a los humanos en videochats, expresar experiencias similares a las humanas y asumir acciones similares a las humanas, incluido descubrir cómo engañar a las medidas de seguridad como CAPTCHA, permitiendo a los malos actores configurar sistemas más efectivos y sofisticados. esquemas.
“La principal preocupación de este artículo es que, francamente, no tenemos ninguna solución sorprendente ahora, porque los robots pueden hacerse pasar por personas en Internet”, dijo Tom Zick, miembro del proyecto en el Centro para la Internacional de la Sociedad Berkman Klein de Harvard. y uno de los autores del artículo. “Es posible que nuestras soluciones existentes no estén a la altura de los sistemas de inteligencia artificial más avanzados”.
Había más de 3.200 violación de datos en los EE. UU. en 2023, un enorme aumento del 72% con respecto a 2021, según el Centro de recursos contra el robo de identidad, una organización sin fines de lucro. La mayoría fueron ciberataques. A medida que los incidentes de ciberseguridad se vuelven más comunes, los investigadores dicen que existe el riesgo de que las operaciones basadas en inteligencia artificial superen a Internet. Y sostienen que la mejor herramienta para afrontar este desafío y al mismo tiempo equilibrar la privacidad y la confianza de las personas involucradas es brindarnos una creencia humana completamente nueva.
Si se pregunta cómo serían estas calificaciones y cómo podrían afectarle, esto es lo que necesita saber.
¿Qué es un certificado de personalidad?
Un certificado de personalidad sería una prueba de que eres un humano y no un robot. Luego podría utilizar estas credenciales para acceder a plataformas en línea y servicios digitales.
“Hay dos cosas que las IA no pueden hacer en este momento”, dijo Wayne Chang, director ejecutivo de la startup de crédito digital SpruceID y otro autor, “una de ellas es conocer lugares personalmente. La segunda es que, hasta donde sabemos, no pueden romper el cifrado”.
Los certificados de identidad pueden presentarse en varias formas, pero todos crean una prueba criptográfica para autenticarlo. (La autenticación criptográfica utiliza criptografía, un método para asegurar la comunicación a través de algoritmos y claves secretas que pueden cifrar y luego descifrar datos, para verificar la autenticidad de los datos).
Podría ser un certificado en su navegador web.
Podría estar vinculado a sus datos biométricos, como su huella digital, iris, rostro o voz.
O podría ser un token basado en blockchain como un token invisible o NFT. (Blockchain es una base de datos segura que contiene registros, llamados bloques, que se pueden usar para hacer que los datos sean inmutables o inmutables. Un activo digital está en NFT almacenado en blockchain).
¿Por qué necesitaríamos certificados de personalidad?
El argumento a favor de los certificados de personalidad surge de la necesidad de determinar si el contenido en línea fue creado por una persona o un robot.
Los bots han arruinado Internet con difundir información falsa, cometiendo fraude y causando que los servicios colapsen. Según el documento, existe un gran riesgo de que la actividad fraudulenta de la IA pueda eventualmente apoderarse de Internet porque la IA ayuda a que esta actividad sea más precisa con personas, avatares y acciones similares.
Ser capaz de distinguir a una persona de un bot reduciría la actividad fraudulenta, como cuentas falsas en las redes sociales y plataformas de citas, así como en los mercados en línea donde los bots compran productos como entradas y zapatillas de deporte y los revenden a precios más altos.
“Estos certificados de personalidad garantizan que sólo personas genuinas creen una cuenta para que pueda aumentar la integridad de las comunidades a las que pertenecen”, dijo Jason Alan Snyder, director de tecnología global de la agencia de publicidad Momentum Worldwide.
También hay un ángulo de datos de entrenamiento.
Los modelos de inteligencia artificial y aprendizaje automático se basan en datos generados por humanos.
“Si los bots aumentan esos datos, reduce la calidad de los modelos y hace que los modelos tomen decisiones muy sofisticadas”, dijo Snyder. “Las credenciales de personalidad pueden generar esos datos para filtrar los bots y mejorar la precisión, la ética y la inteligencia artificial”. justicia.”
¿Cómo podemos conseguirlos?
Las referencias podrían provenir de varias fuentes.
Una es una oficina gubernamental como el DMV o la oficina de correos, que puede verificar su identidad a través de documentos emitidos por el gobierno y luego emitir una identificación o pasaporte digital.
Otra opción es tu banco, universidad o lugar de trabajo, o incluso, en teoría, un minorista como Costco, si eres miembro, dijo Snyder.
Las empresas de tecnología como Apple y Google también pueden emitir certificados de identidad vinculados a sus sistemas de identidad existentes, como su ID de Apple o su cuenta de Google.
“La mayoría de los autores del artículo estarían de acuerdo en que no queremos decir que [one source like] la oficina de correos va a demostrar humanidad para todos”, afirmó Chang.
¿Necesitaríamos un certificado de personalidad o varios?
Eso no está claro todavía.
Según Zick, un certificado de personalidad de aplicación universal sería más fácil que gestionar varios certificados. Pero nadie ha descubierto esta parte todavía.
¿Qué pasa con la privacidad y la seguridad?
Los autores del artículo quieren un certificado que pueda ser privado, para que no compartas nada sobre ti que no quieras. Pero no encontraron una opción existente que abarque la línea entre la privacidad y la verificación de identidad, dijo Zick.
Otros detalles aún están por resolverse.
“Nos gustaría ver que tal vez puedas simplemente usar el hecho de que compraste huevos y luego crear esta cookie que puedas usar y que pueda preservar la privacidad”, dijo Chang. “Puedes decir: ‘Yo era un’. chico de la tienda de comestibles. No te voy a decir cuál, pero yo estuve allí’, y eso es suficiente para publicar un comentario en Internet”.
¿Sería esto exclusivo de Estados Unidos o a nivel mundial?
Los bots pueden provenir de cualquier país.
Según la empresa de software Netacea, Reino Unido, Estados Unidos, Rusia, China y Vietnam son los países que creación e implementación los mayores ataques de bots. Además, la empresa de TI Thales Group descubrió que parche de robots Actualmente representa casi un tercio de todo el tráfico de Internet.
Para distinguir a las personas de los robots en un contexto global, sería mejor adoptar pruebas de personalidad en todo el mundo, dijo Snyder. Pero se trata de una tarea difícil que requeriría algún tipo de norma general, por no hablar de la confianza entre países.
“Si todos los países adoptaran un certificado de personalidad, sería mucho más difícil para los bots operar a través de fronteras porque no tendrían las credenciales necesarias para interactuar con sistemas y plataformas”, dijo, y ofrece todo tipo de inclusión. acceso justo y le brinda una plataforma global para redes sociales, comercio electrónico y el resto de cosas”.
¿Cuáles son las cuestiones legales y éticas?
También sería necesario adoptar nuevas normas para garantizar que los certificados de identidad respeten la privacidad, la seguridad y los derechos humanos.
Snyder admitió que esto es una quimera, pero dijo: “Sería realmente genial si pudiéramos solucionarlo porque eliminaría gran parte de este caballo y ciertamente lo haría una IA mucho más segura para el mundo”.
¿Qué tan lejos está esto?
Chang y Zick dicen que la mayor parte de la tecnología para los certificados de personalidad ya existe, pero estiman que pasarán entre dos y diez años antes de que los veamos en el mundo real.
El problema está en los detalles de la implementación, afirmó Chang.
“Creo que habrá mucho cuando haya una demanda real”, dijo. “Aún no hemos visto que Internet se haga cargo de la IA, así que creo que podría ser algo reactivo, como lo son muchas cosas”.
Snyder espera ver una adopción temprana en sectores donde la verificación segura de la identidad es fundamental, como las finanzas, la atención médica y el gobierno, en los próximos uno a tres años. Dentro de 10 años más, será el equivalente estándar de la autenticación de dos factores actual.
“No es algo inmediato, pero creemos que es un problema inmediato”, dijo Zick.
¿Qué dicen los críticos?
No todos están de acuerdo.
Jacob Hoffman-Andrews, tecnólogo senior de la organización sin fines de lucro Electronic Frontier Foundation, calificó las certificaciones de personalidad como “tremendamente distópicas”, y el gobierno potencialmente decide quién puede hablar en línea.
“Da la impresión de que habrá una serie de espías de la personalidad, pero en realidad, en el contexto del documento, el objetivo principal parece ser los gobiernos, e históricamente los gobiernos han sido muy malos a la hora de añadir personalidad a todo el mundo”, dijo.
Pidió una mejor solución al problema de la desinformación sobre la IA.
“Hasta cierto punto, todo está en el nombre”, dijo Hoffman-Andrews. “Nadie debería ser testigo de su personalidad. Tu personalidad es un rasgo innato de tu ser. Nadie más puede concedertelo.”
