OpenAI, fabricante de ChatGPT, presentó el jueves un modelo más pequeño llamado GPT-4o Mini, que dice que es más inteligente y más barato que GPT-3.5 Turbo, un modelo anterior creado para tareas simples como la comunicación.
OpenAI espera que los desarrolladores utilicen GPT-4o Mini para “ampliar significativamente la gama de aplicaciones creadas con IA”, según entrada en el blog.
Los chatbots como ChatGPT son la interfaz que utilizamos para comunicarnos con grandes modelos de lenguaje, o LLM, como GPT-4o Mini y el GPT-4o original, mucho más grande. Estos modelos están capacitados para comprender cómo usamos el lenguaje para que puedan generar contenido similar al humano.
LLM puede tener mil millones o más de parámetros, que es una medida de cuánto contenido puede absorber antes de responder a su respuesta. Eso significa que los LLM pueden aprender y comprender mucho, pero no son ideales para todas las situaciones. Pueden ser costosos y consumir mucha energía debido a la necesidad de extensas granjas de servidores y acceso a través de la nube.
Un modelo de lenguaje pequeño es una especie de compromiso. Ofrece la potencia y la velocidad de la IA, pero no requiere los mismos recursos informáticos ni el mismo coste. El Phi-3 Mini de Microsoft, diseñado para funcionar en teléfonos y PC, es un ejemplo. Gemini 1.5 Flash de Google, que está diseñado para tareas de alto nivel y alta frecuencia como crear subtítulos y extraer datos de formularios, es otro. Ahora también tenemos GPT-4o Mini.
La piel del GPT-4o Mini
Tanto los usuarios de ChatGPT gratuitos como los de pago podrán acceder a GPT-4o Mini a partir del jueves en lugar de GPT-3.5, que se lanzó en noviembre de 2022.
GPT-4o Mini actualmente admite texto y visión en la API OpenAI, que es lo que los desarrolladores utilizan para crear nuevas aplicaciones basadas en la tecnología OpenAI. El soporte para entrada y salida de texto, imágenes, video y audio “llegará en el futuro”, decía la publicación.
Los usuarios empresariales tendrán acceso a GPT-4o Mini a partir de la semana del 22 de julio.
OpenAI dijo que GPT-4o Mini sobresale en codificación y razonamiento matemático, pero también ha demostrado habilidades en tareas que requieren razonamiento. La startup de tecnología financiera Ramp y la aplicación de correo electrónico Superhuman probaron GPT-4o Mini para extraer datos de archivos y generar respuestas por correo electrónico, según la publicación.
El nuevo modelo tiene una ventana de contexto de 128.000 caracteres, que es una medida de cuánto puede recordar en una conversación determinada. En comparación, GPT-4o tiene una ventana de contexto única, mientras que GPT-3.5 Turbo tiene una ventana de contexto de 16.000 caracteres.
GPT-4o Mini cuesta 15 centavos por millón de tokens de entrada y 60 centavos por millón de tokens de salida, lo que, según OpenAI, equivale aproximadamente a 2.500 páginas de un libro.
El coste del GPT-4o, que se lanzó en mayo. $5 por millón señales de entrada y señales de salida $ 2,50 por millón.
“Vemos un futuro en el que los módulos se integran perfectamente en cada aplicación y sitio web”, decía la publicación del blog. “GPT-4o mini está allanando el camino para que los desarrolladores creen y escalen potentes aplicaciones de IA de manera más eficiente y asequible”.
