Qualcomm anunció el miércoles una asociación con la empresa de inteligencia artificial (IA) Mistral. Anunciada en la Conferencia Snapdragon, esta colaboración verá dos de los modelos de IA de Mistral, el Ministral 3B y el Ministral 8B, optimizados para ejecutarse en dispositivos equipados con los distintos conjuntos de chips Snapdragon Elite. La compañía dijo que estos modelos de IA agregarán capacidades de IA a teléfonos inteligentes, PC, automóviles y más. Este paso tiene como objetivo mejorar la velocidad de procesamiento y reducir el consumo de energía de las funciones de IA.
Qualcomm y Mistral se unen para desarrollar modelos de IA en dispositivos
En un comunicado de prensa, el fabricante de chips anunció oficialmente que Qualcomm y Mistral trabajarán juntos para desarrollar modelos de IA únicos diseñados para ejecutar el dispositivo. Este paso tiene como objetivo reducir la confiabilidad y el rendimiento en la nube de las tareas de IA, que se consideran más poderosas y más lentas en comparación con el procesamiento local. Qualcomm también añadió que este tipo de IA se desarrollará no sólo para sus plataformas sino también para PC y entornos automotrices.
A través de esta asociación, Ministral 3B y Ministral 8B se actualizarán para funcionar en dispositivos equipados con el recientemente anunciado Snapdragon 8 Elite para teléfonos inteligentes, Snapdragon Cockpit Elite y Snapdragon Ride Elite para automóviles, y Snapdragon X Elite para PC con IA.
Los modelos Ministral 3B y 8B AI fueron ser iniciado la semana pasada. Son los primeros cursos de idiomas de empresa (LLM) importantes diseñados para uso empresarial. Estos modelos admiten llamadas a funciones que los hacen ideales para casos de uso de programación de aplicaciones (API). Al igual que Mistral, los modelos de IA admiten una longitud de token de 128.000.
Qualcomm dijo que la versión AI del dispositivo brindará muchos beneficios a los usuarios finales, incluida una mayor privacidad, menor latencia, mayor confiabilidad, eficiencia energética y ahorro de costos. “Ministral 3B y Ministral 8B de Mistral AI ayudarán a los fabricantes de dispositivos, proveedores de software y proveedores de servicios digitales a ofrecer nuevas experiencias, como asistentes de IA y otras aplicaciones que comprendan las necesidades y demandas de los usuarios”, afirmó Durga Malladi, vicepresidente y director general. Director de Tecnología, Planificación y Soluciones Edge en Qualcomm Technologies.
Actualmente, los desarrolladores pueden acceder a la versión AI Mistral 7B v0.3 a través de Qualcomm AI Hub. En las próximas semanas se agregarán dos tipos de Ministral AI a la base.
