La Decisions API de OpenAI llega con una promesa poco glamurosa y muy útil: elegir entre opciones predefinidas de forma rápida y barata, sin recurrir a un LLM generalista. OpenAI la presentó en el Dev Day y se parece al modelo Jev de TypeSafe AI, pensado para automatización de software. El dato que explica el interés es llamativo: vigilar las acciones de agentes de IA con Jev cuesta 2,94 dólares, frente a 372 dólares con un LLM de frontera. Para quien paga facturas de inferencia, esa diferencia pesa más que cualquier benchmark.
Qué es la Decisions API de OpenAI y por qué importa
OpenAI anunció la Decisions API durante su Dev Day como una herramienta de clasificación. La idea es sencilla: en lugar de pedirle a un modelo que genere texto libre, le das un conjunto de opciones predefinidas y el sistema elige una. Es el mismo enfoque que sigue Jev, el modelo de TypeSafe AI, al que la propia herramienta de OpenAI se asemeja de forma explícita. Por eso algunos la describen como un clon de Jev, aunque conviene tratar esa etiqueta con cuidado: lo comprobado es la similitud de planteamiento, no una equivalencia técnica.
La razón de ser de este tipo de herramienta está en un problema que muchos equipos de desarrollo reconocen. Los LLM tradicionales son lentos y caros para muchas tareas de software que, en el fondo, solo necesitan una respuesta cerrada: sí o no, categoría A, B o C, aprobar o bloquear. Usar un modelo de frontera para eso es como contratar a un catedrático para ordenar el correo. Funciona, pero cada decisión tarda más y cuesta más de lo necesario.
El ejemplo de coste que acompaña al anuncio es el más ilustrativo. Monitorizar las acciones de agentes de IA con Jev supone 2,94 dólares, mientras que hacerlo con un LLM de frontera asciende a 372 dólares. La proporción es de unas 126 veces, o dicho de otro modo, el coste baja a menos del 1% del original. Es un único caso de uso, pero apunta a dónde está el margen de ahorro.
Implicaciones técnicas de la Decisions API de OpenAI
Lo más interesante es el cambio de mentalidad que representa. Durante dos años, la respuesta por defecto ante cualquier problema de lenguaje ha sido llamar al modelo más potente disponible. La Decisions API de OpenAI reconoce, por la vía de los hechos, que ese reflejo sale caro cuando la tarea es repetitiva y acotada. Una clasificación con opciones cerradas tiene una salida predecible, se puede validar con facilidad y se integra en un flujo de software sin tener que interpretar párrafos de texto.
Hay un segundo efecto: la velocidad. En automatización, cada paso que espera la respuesta de un modelo grande añade latencia al proceso completo. Si un agente ejecuta decenas de acciones y cada una debe pasar por un control, un clasificador rápido marca la diferencia entre un sistema usable y uno que se arrastra. El caso de la monitorización de agentes lo muestra bien: se trata de revisar muchas acciones pequeñas, una tras otra, y decidir si son aceptables.
También hay que decir lo que todavía no sabemos. Faltan datos de la Decisions API como el precio por llamada, la latencia concreta, los modelos que hay detrás o los límites en número de opciones. Tampoco hay comparativas independientes de precisión frente a Jev o frente a un LLM grande. La cifra de 2,94 frente a 372 dólares corresponde a Jev, no a la herramienta de OpenAI, así que no debe leerse como un precio ya confirmado para la nueva API.
Que OpenAI entre en este terreno tiene además un valor de señal. Cuando el proveedor de referencia de los modelos grandes ofrece una vía barata y especializada, valida la categoría de los clasificadores ligeros frente al LLM para todo. Para TypeSafe AI, el anuncio cuenta a la vez como reconocimiento del enfoque y como competencia directa de un actor con mucho más alcance de distribución.
Cómo pueden aplicar esto las empresas hoy
Lo primero es revisar dónde gasta tu empresa en inferencia. Si usas un LLM para tareas con respuesta cerrada, como etiquetar tickets de soporte, enrutar correos, decidir si una acción de un agente necesita revisión humana o clasificar facturas por tipo, tienes candidatas claras para un clasificador de opciones predefinidas. El criterio práctico es sencillo: si puedes enumerar todas las respuestas válidas de antemano, probablemente no necesitas un modelo de frontera para elegir entre ellas.
Segundo paso: mide antes de migrar. Toma una muestra real de, por ejemplo, unos cientos de casos ya etiquetados por tu equipo y compara precisión, latencia y coste entre tu LLM actual y la alternativa. La diferencia de 2,94 a 372 dólares es atractiva, pero solo te sirve si la precisión en tus datos aguanta. Un clasificador barato que se equivoca más en los casos críticos sale caro a la larga.
Tercero, evita rehacerlo todo. Mantén el LLM grande para lo que de verdad exige razonamiento o texto libre y delega en el clasificador los controles repetitivos. En especial, si ya tienes agentes en producción, la monitorización de sus acciones es el caso más directo que menciona el anuncio. Por último, ten cuidado con la dependencia: la herramienta es nueva, y conviene esperar a ver precios y condiciones antes de atar procesos críticos a ella. Un diseño con una capa intercambiable te deja cambiar entre OpenAI, Jev u otra opción sin reescribir tu software.
Análisis Blixel
El mayor error de presupuesto en proyectos de IA no es elegir un modelo malo, sino elegir uno demasiado bueno para el trabajo. Muchas PYMEs han empezado con un LLM de frontera para todo porque era lo más fácil de enchufar, y ahora descubren que la factura crece con cada automatización que añaden. Ahí es donde la Decisions API de OpenAI tiene sentido, más allá del titular sobre si es o no un clon de Jev.
Mi posición es clara: la tendencia correcta no es tener modelos cada vez más grandes, sino aprender a repartir el trabajo. Un modelo caro para pensar, uno barato para decidir. La cifra de 2,94 frente a 372 dólares no hay que tomarla como promesa de ahorro universal, porque sale de un caso concreto y de otro producto. Pero sí demuestra que el sobrecoste de usar el martillo grande para todo puede ser de dos órdenes de magnitud.
También me parece sano que el anuncio venga de OpenAI. Que la empresa que más ha empujado el discurso de los modelos grandes ofrezca una herramienta pequeña y especializada indica que el mercado ya penaliza el despilfarro. Eso sí, conviene mantener los pies en el suelo: sin precios, latencias ni pruebas independientes, hoy es una dirección prometedora, no una decisión de compra. Mi consejo es probarla con un caso acotado, medir con datos propios y decidir después. Si los números se sostienen, habrá encontrado una de las formas más rentables de recortar gasto en IA sin renunciar a la automatización.
¿Quieres aplicar esto en tu empresa? En Blixel.ai te ayudamos a integrar IA con sentido común. Hablemos.
Deja una respuesta