OpenAI ha comenzado a desplegar entre los usuarios de ChatGPT y de la API (interfaz de programación de aplicaciones) un nuevo producto denominado GPT-4o mini. Estamos hablando de un modelo de lenguaje pequeño que llega con mayor inteligencia textual, razonamiento multimodal y tarifas de uso reducidas para los desarrolladores. Asimismo, se presenta como el sustituto de GPT-3.5 Turbo.
El concepto de modelos de tamaño reducido no es nuevo. Por ejemplo, Google tiene a Gemini 1.5 Flash y Anthropic cuenta con Claude 3 Haiku. Estas variantes, al igual que la anunciada hoy por OpenAI, no solo son más ligeras, rápidas y eficientes, sino que también son más económicas de usar que los modelos insignia más potentes y caros. En este último grupo encontramos a GPT-4o, Gemini 1.5 Pro y Claude 3 Opus.
Una propuesta que apunta a la rentabilidad sin dejar de lado la capacidad
Los modelos de lenguaje que la compañía liderada por Sam Altman ha lanzado durante los últimos años no solo viven en ChatGPT. Estos también son un elemento clave de muchas aplicaciones que se benefician de su capacidad. Ahora bien, el uso profesional a este nivel de los modelos no es gratis. Los desarrolladores pagan por grupos de tokens, por lo que las tarifas son un aspecto muy importante.
Dado que aquí no hay un único actor dominante, y que la competencia en el campo de la IA se ha vuelto feroz, las compañías están tratando de ofrecer mejores propuestas para los desarrolladores. Ya lo vimos hace unos meses atrás cuando GPT-4o llegó con unas tarifas de uso mucho más baratas que GPT-4 Turbo con una idéntica longitud de contexto, pero con todas las ventajas que presumía el nuevo modelo.
Ahora, OpenAI lo ha vuelto a hacer. GPT-4o mini tiene un precio de 15 centavos de dólar por millón de tokens de entrada y 60 centavos de dólar por millón de tokens de salida. Para hacer una comparación. GPT-4o tiene un precio de 5 dólares por millón de tokens de entrada y 15 dólares por millón de tokens de salida. En todos los casos estamos hablando de una ventana de contexto de 128 K.
GPT-4o mini, ya disponible para desarrolladores
Y mencionamos la ventana de contexto porque también es relevante. Pues se trata de la cantidad de información medida en tokens que el modelo puede considerar de una vez para generar una respuesta. Cabe señalar que hay otros modelos en el mercado que tienen mayor ventana de contexto que los de OpenAI. La familia Claude 3, por ejemplo, tiene una ventana de contexto de 200 K.
En cualquier caso, los desarrolladores tienen más opciones para elegir tanto dentro como fuera de OpenAI. GPT-4o mini, según la compañía, es ideal para aplicaciones que se conectan a varias API, necesitan absorber una gran cantidad de código o interactúan con clientes a través de respuestas rápidas. Podemos mencionar como escenario real de uso los chatbots de atención al cliente impulsados por IA.
A nivel un poco más técnico, GPT-4o mini llega en este momento con compatibilidad con texto y visión en la API. En el futuro, prometen, será compatible con entradas y salidas de texto, imagen, vídeo y audio. Veamos, se trata de una ventaja notable en relación a GPT-3.5 Turbo, que no solo era más caro, sino que también estaba limitado a entradas y salidas de texto únicamente.
El nuevo modelo pequeño obtuvo una puntuación del 82 % en el Measuring Massive Multitask Language Understanding (MMLU). GPT-3.5 obtuvo una puntuación del 70 %, GPT-4o del 88,7 %, Claude 3 Haiku del 75,2 %, Gemini 1.5 Flash del 78,9 %. Google Gemini Ultra, por su parte, se encuentra en lo más alto del ranking, con una puntuación del 90 % en este examen de referencia.
Los usuarios de ChatGPT con cuentas Free, Plus y Team también podrán beneficiarse de todas las ventajas de GPT-4o mini. El nuevo modelo estará disponible para todos ellos a partir de hoy. Aquellos que tienen cuentas empresariales, no obstante, deberán esperar un poco más. GPT-4o mini comenzará el despliegue en este caso la semana próxima.
Imágenes | OpenAI | Captura de pantalla
En Xataka | La Unión Europea se queda fuera de los próximos grandes modelos de IA de Meta. El motivo: la regulación
Ver 3 comentarios