OpenAI lanza GPT-3.5-turbo y GPT-4 con función de llamada a funciones para desarrolladores de chatbots

OpenAI presenta nuevas versiones de sus modelos de IA generativa de texto

OpenAI ha anunciado la salida al mercado de nuevas versiones de sus modelos de inteligencia artificial (IA) generativa de texto, GPT-3.5-turbo y GPT-4, con la función de llamada a funciones. Esta última permite a los desarrolladores describir funciones de programación a los modelos y que estos creen el código para ejecutar esas funciones.

La función de llamada a funciones tiene diversas aplicaciones, como la creación de chatbots que respondan preguntas llamando a herramientas externas, la conversión de lenguaje natural en consultas a bases de datos y la extracción de datos estructurados de texto. Según OpenAI, estos modelos han sido ajustados para detectar cuándo es necesario llamar a una función y para responder con JSON que se ajuste a la firma de la función, lo que permite obtener datos estructurados de forma más fiable.

Además, OpenAI ha presentado una versión de GPT-3.5-turbo con una ventana de contexto mucho más amplia. La ventana de contexto se refiere al texto que el modelo considera antes de generar cualquier texto adicional y se mide en tokens, o bits de texto. Los modelos con ventanas de contexto pequeñas tienden a olvidar el contenido de conversaciones recientes, lo que los lleva a salirse del tema de forma problemática. La nueva versión de GPT-3.5-turbo ofrece cuatro veces la longitud de contexto (16.000 tokens) del modelo original a un precio dos veces superior: 0,003 dólares por cada 1.000 tokens de entrada y 0,004 dólares por cada 1.000 tokens de salida.

Reducción de precios

Por otro lado, OpenAI ha reducido el precio de GPT-3.5-turbo original en un 25%, lo que permite a los desarrolladores usar el modelo por 0,0015 dólares por cada 1.000 tokens de entrada y 0,002 dólares por cada 1.000 tokens de salida, lo que equivale a unas 700 páginas por dólar. El precio de text-embedding-ada-002, otro de los modelos de incrustación de texto más populares de OpenAI, también ha sido reducido en un 75%, pasando a costar 0,0001 dólares por cada 1.000 tokens.

OpenAI ha señalado que se centrará en actualizaciones incrementales de sus modelos existentes, en lugar de en la creación de nuevos modelos desde cero, después del lanzamiento de GPT-4 a principios de marzo. En una conferencia reciente organizada por Economic Times, el CEO de OpenAI, Sam Altman, confirmó que la compañía no ha comenzado a entrenar al sucesor de GPT-4, lo que indica que la compañía "tiene mucho trabajo por hacer" antes de iniciar ese modelo.

OpenAI sigue centrando sus esfuerzos en aumentar la eficiencia de sus sistemas, lo que ha permitido reducir los precios de sus modelos de IA generativa de texto y de incrustación de texto, dos áreas clave para la compañía, que invierte cientos de millones de dólares en investigación y desarrollo e infraestructura.