Los investigadores de Adobe han publicado un artículo que describe un nuevo sistema de inteligencia artificial (IA) que puede procesar documentos localmente en un dispositivo. Publicado la semana pasada, el artículo destaca que los investigadores probaron modelos de lenguaje grande (LLM) y modelos de lenguaje pequeño (SLM) existentes para encontrar una manera de reducir el tamaño del modelo de IA manteniendo al mismo tiempo la capacidad de lidiar con alta velocidad. . Como resultado de las pruebas, los investigadores lograron producir un modelo de IA llamado SlimLM que puede funcionar completamente en un teléfono inteligente y procesar documentos.
Los investigadores de Adobe presentan SlimLM
El procesamiento de documentos impulsado por IA, que permite que el chat responda a las preguntas de los usuarios sobre su contenido, es una cuestión clave en el uso de la IA que genera. Muchas empresas, incluida Adobe, han aplicado esto y han lanzado herramientas que brindan esta funcionalidad. Sin embargo, existe un problema con estas herramientas: el proceso de IA se lleva a cabo en la nube. El procesamiento de datos en el servidor genera dudas sobre la confidencialidad de los datos y hace que el procesamiento de documentos que contienen información sea un proceso vulnerable.
El riesgo surge principalmente del temor de que la empresa que proporciona la solución pueda entrenar IA en ella, o que una violación de datos pueda exponer la información. Como solución, los investigadores de Adobe anunciaron un papel en la revista en línea arXiv, que describe un nuevo tipo de IA que puede realizar el procesamiento de documentos completamente en el dispositivo.
Llamada SlimLM, la versión más pequeña de IA tiene sólo 125 millones de parámetros que permiten integrarla en el sistema operativo de un teléfono inteligente. Los investigadores dicen que puede funcionar localmente, sin necesidad de conexión a Internet. Como resultado, los usuarios pueden manejar los documentos más sensibles sin ningún temor ya que los datos no salen del dispositivo.
En el artículo, los investigadores señalaron que realizaron varias pruebas en el Samsung Galaxy S24 para encontrar el equilibrio entre el tamaño del parámetro, la velocidad de los datos y la velocidad de procesamiento. Después de actualizarlo, el equipo conservó el modelo básico SlimPajama-627B y lo editó correctamente utilizando DocAssist, un software especial de gestión de documentos.
En particular, arXiv es una revista prepublicada cuya publicación no requiere revisión por pares. Por lo tanto, no se puede verificar la validez de las afirmaciones hechas en el trabajo de investigación. Sin embargo, si es cierto, es posible que el modelo de IA se envíe con las plataformas de Adobe en el futuro.
