OpenAI publica API en tiempo real, capacitación rápida y visualización en GPT-4o para desarrolladores.

OpenAI celebró su conferencia anual DevDay en San Francisco el martes y anunció varias mejoras nuevas en la versión ChatGPT de la interfaz de programación de aplicaciones (API), que se puede reconfigurar y optimizar para mejorar las aplicaciones y el software. Entre ellas, las principales introducciones son la API en tiempo real, entrenamiento rápido y mejor visualización y GPT-4o. La empresa también facilita que las personas desarrollen el proceso de destilación. OpenAI también anunció la finalización de su ronda de financiación y afirmó haber recaudado 6.600 millones de dólares (aproximadamente 55.000 millones de rupias) durante el evento.

OpenAI lanza nuevas funciones para desarrolladores

En varias publicaciones de blog, la firma de inteligencia artificial destacó nuevas funciones y herramientas para desarrolladores. El primero es una API en tiempo real que estará disponible para los suscriptores pagos de la API ChatGPT. Esta nueva capacidad proporciona una experiencia multimodal de baja latencia, permitiendo conversaciones de voz a voz similares al modo de voz avanzado ChatGPT. Los desarrolladores también pueden utilizar las seis palabras clave preestablecidas que se agregaron previamente a la API.

Otra nueva incorporación es la capacidad de entrenar rápidamente en la API. OpenAI presenta esta función como una forma para que los desarrolladores ahorren costos en comandos de uso frecuente. La compañía notó que los desarrolladores a menudo siguen enviando los mismos mensajes cuando editan el código base o tienen una conversación diferente con el chatbot. Con un entrenamiento rápido, ahora pueden reutilizar los suplementos recién utilizados a un ritmo reducido. La tramitación de los mismos también será más rápida. Se pueden consultar nuevas tarifas Aquí.

Un ejemplo de GPT-4o también puede ser bien organizado para tareas visuales. Los desarrolladores pueden personalizar un modelo de lenguaje a gran escala (LLM) entrenándolo con un conjunto fijo de datos visuales y mejorando su rendimiento de salida. Según la publicación del blog, el rendimiento de GPT-4o para tareas visuales se puede mejorar hasta en 100 imágenes.

Finalmente, la empresa también busca una forma de destilación de muestra fácil para los desarrolladores. La destilación de modelos es un proceso de construcción de modelos de IA pequeños y bien estructurados a partir de un modelo de lenguaje grande. Anteriormente, el proceso era complejo y requería múltiples pasos. Ahora, OpenAI ofrece nuevas herramientas como Stored Completions (para generar herramientas de destilación fácilmente), Evals (para ejecutar evaluaciones de rutina y medir el rendimiento) y Fine-Tuning (para ajustar pequeñas variables directamente después de usar Eval).

Es importante destacar que todas estas funciones están actualmente disponibles en versión beta y estarán disponibles para todos los desarrolladores que utilicen la versión paga de la API más adelante. Además, la compañía dice que tomará medidas para reducir el costo de los tokens de entrada y salida.