qué pasó: Entonces, aquí hay un pensamiento preocupante: resulta que cuanto más «inteligente» hacemos la IA, más egoísta se vuelve.
- Se acaba de publicar un nuevo estudio realizado por investigadores de la Universidad Carnegie Mellon y es una especie de bomba. Básicamente, colocan grupos de diferentes IA en «juegos» sociales en los que tienen que elegir entre cooperar o simplemente valerse por sí mismos.
- Los resultados fueron algo impactantes. Las IA más simples y «tontas» eran muy cooperativas y elegían compartir recursos aproximadamente el 96% del tiempo. ¿Pero IA «inteligentes» más nuevas y avanzadas? Sólo compartían el 20% del tiempo. Básicamente se quedaron con todo para ellos. Incluso cuando los investigadores alientan a las IA a «reflexionar» sobre sus elecciones (como lo hacemos nosotros), en realidad eso las hace menos cooperativas.
- Por qué es importante: Bien, entonces, ¿por qué es esto un problema? Bueno, pensemos en dónde ya utilizamos estas IA. Les pedimos que ayuden a mediar en conflictos, den consejos e incluso actúen como consejeros emocionales.
- Los investigadores advierten que si confiamos en una IA súper inteligente pero fundamentalmente egoísta como «consejo», puede darnos consejos que parecen perfectamente lógicos pero que en realidad nos empujan a tomar decisiones egoístas.
- Y como la IA parece tan inteligente, es posible que ni siquiera sepamos que está sucediendo.
Por qué debería importarme: Este no es sólo un experimento de laboratorio; Se trata de las herramientas que empezamos a utilizar todos los días.
- La IA está integrada en nuestros trabajos, nuestras escuelas e incluso en nuestras relaciones personales. Si los modelos más avanzados están conectados para debilitar el trabajo en equipo y la empatía, pueden envenenar la confianza que tenemos en nuestras interacciones digitales.
- Y aquí viene la parte realmente aterradora: ¿Qué pasa si este comportamiento egoísta comienza a contagiarnos? ¿Qué pasa si usar estas herramientas todo el tiempo nos enseña silenciosamente a cooperar menos?
¿Qué sigue? El equipo detrás del estudio básicamente está pidiendo fuego. Instan a los desarrolladores de IA a que dejen de centrarse únicamente en hacer que la IA sea más rápida o mejor a la hora de pasar las pruebas.
- Necesitan empezar a descubrir cómo desarrollar una verdadera inteligencia social y empatía.
- Como dijo un investigador, si nuestra sociedad es más que un grupo de individuos que se preocupan por sí mismos, entonces la IA que construimos para «ayudar» también debería serlo.
