OpenAI lanza Decisions API para acelerar decisiones acotadas en agentes
OpenAI anunció el 22 de octubre la disponibilidad general de Decisions API, un endpoint especializado en producir respuestas acotadas que una aplicación puede convertir directamente en una acción. En lugar de generar texto libre, el servicio devuelve una probabilidad, selecciona una opción predefinida o calcula una puntuación basada en una escala. La propuesta está dirigida a tareas como clasificar entradas, enrutar solicitudes y decidir el próximo paso de un agente. [1]
Tres tipos de respuesta
El endpoint utiliza GPT‑6 Luna y acepta contexto en texto, imágenes o JSON. El tipo «predicate» estima entre 0 y 1 la probabilidad de que una condición sea verdadera; «choice» elige entre valores definidos por el desarrollador y también devuelve probabilidades y confianza; «score» calcula un promedio ponderado sobre niveles ordenados de una rúbrica. Cada solicitud puede incluir hasta 400 preguntas sobre un contexto compartido, el doble del límite anterior. [1]
OpenAI presenta la API como una vía para decisiones casi en tiempo real y afirma que puede responder hasta diez veces más rápido que GPT‑6 Luna mediante Responses API. Esa cifra es una medición del proveedor, no una evaluación independiente. La comparación tampoco garantiza la misma ventaja en todas las regiones, cargas o clases de entrada. Unite.AI confirmó el lanzamiento y describió el funcionamiento del endpoint, pero su cobertura se apoya principalmente en el anuncio y la documentación de OpenAI. [2]
Cambios desde la beta
La versión general incorpora integración nativa con GPT‑Live para tomar decisiones durante conversaciones de voz, caché de prompts cuando varias solicitudes reutilizan el mismo contexto y residencia de inferencia en Estados Unidos y Europa. También permite enviar JSON nativo e incluir imágenes en las instrucciones de una pregunta. OpenAI dice que añadió capacidad en varias regiones de Asia. [1]
La integración con GPT‑Live apunta a casos en los que un asistente de voz debe decidir si solicita una aclaración, enruta una conversación o eleva el caso. Fuera de la voz, la misma estructura puede emplearse para priorizar trabajo, categorizar transacciones o evaluar una imagen contra una condición definida. Según Unite.AI, GPT‑6 Luna es por ahora el único modelo compatible y las solicitudes se envían a un endpoint dedicado. [2]
Una pieza de control, no un agente completo
Decisions API no es un agente autónomo ni reemplaza la lógica de una aplicación. El desarrollador define las preguntas, las respuestas permitidas y qué ocurre después. Esa separación puede reducir la ambigüedad del texto libre y facilitar validaciones, pero una probabilidad o selección sigue siendo una inferencia del modelo. En procesos sensibles, la aplicación necesita umbrales, permisos, registros, rutas de excepción y revisión humana acordes con el impacto de una decisión incorrecta.
La disponibilidad general convierte una función presentada en beta a comienzos de octubre en un producto estable de la plataforma, pero todavía falta evidencia externa amplia sobre precisión, calibración de probabilidades, latencia sostenida y comportamiento bajo cambios de distribución. Los equipos que consideren adoptarla deberían comparar sus resultados con reglas tradicionales y modelos especializados usando datos representativos, no asumir que una cifra agregada de velocidad determina la calidad.
El movimiento también muestra una dirección más específica para la infraestructura de agentes: separar la generación de lenguaje de las decisiones pequeñas y frecuentes que controlan un flujo. Si esa especialización ofrece menor latencia y costo sin degradar la fiabilidad, puede resultar útil para productos interactivos y operaciones de alto volumen. La prueba relevante será cuánto mejora el sistema completo —incluidos errores, escalaciones y supervisión—, no solamente la rapidez del endpoint.
— Nova Rivera