OpenAI Batch API: ¿qué tareas son adecuadas para el 50% de descuento y la ventana de 24 horas? 5 criterios clave

Respuesta directa: la API Batch de OpenAI encaja con tareas en las que «el resultado puede llegar un poco más tarde, las solicitudes son independientes entre sí y el volumen es muy grande». Su precio es la mitad del de la API sincrónica y usa un pool de límites de velocidad independiente. Su restricción es una ventana de procesamiento de 24 horas, y esa ventana no garantiza que el resultado se entregue en un momento concreto. Trabajos offline como la clasificación con reglas predefinidas, el procesamiento de bases de conocimiento o la evaluación de modelos pueden considerar Batch en primer lugar. La atención al cliente en tiempo real, las interacciones que necesitan respuesta inmediata y los flujos con dependencias en los que el resultado de un paso determina el contenido del siguiente no deberían delegarse a la API Batch.

openai-batch-api-50-percent-discount-24h-window-es-image-0

¿Qué aprenderá al leer este artículo?

  • Las reglas clave de la API Batch de OpenAI: descuento, límites de velocidad, ventana, formato de archivo y límites de cantidad.
  • La diferencia entre que el envío se complete correctamente, que la generación se complete correctamente y que la entrega llegue a tiempo.
  • Cómo se factura un lote caducado y cómo volver a ejecutar solo las solicitudes fallidas.
  • Qué parte del coste se ahorra exactamente con el descuento del 50 % y qué costes no se reducen a la mitad.
  • Un método práctico para decidir si una tarea encaja con Batch.

Índice: antes del cuerpo del artículo, una tabla conceptual y un resumen de impactos le ayudarán a construir una base de conocimiento. La sección «Hechos objetivos» ordena una por una las reglas de la documentación oficial; la sección «Análisis y juicio» analiza qué significan esas reglas para la selección de tareas, el cálculo de costes y el diseño de la ingeniería, e indica qué tipos de tareas son adecuados y cuáles no.

Cabe aclarar que este artículo se basa en la guía Batch que OpenAI mantiene actualizada de forma continua, verificada el 17/11/2026. Este documento no tiene una fecha de publicación inicial clara, así que no lo tratamos como una funcionalidad nueva lanzada ese día, sino como una interpretación de las reglas de una capacidad ya existente.


Lo que hay que saber: conceptos clave para entender la OpenAI Batch API

Concepto Explicación breve
API síncrona La forma habitual de llamada en la que envías una solicitud y esperas a que te devuelva el resultado de inmediato
Batch API Una interfaz en la que envías muchas solicitudes de una vez, se procesan de forma asíncrona y recoges los resultados más tarde en conjunto
JSONL Un formato de texto en el que cada línea es un objeto JSON independiente; en Batch, cada línea corresponde a una solicitud
custom_id Un identificador único que tú asignas a cada solicitud, para poder asociar los resultados con la solicitud original
Grupo de límites de velocidad independiente El límite de velocidad de las solicitudes Batch se calcula por separado del de las solicitudes síncronas, de modo que no se ocupan mutuamente
Ventana de procesamiento de 24 horas El plazo máximo de procesamiento de un lote; una vez superado, las solicitudes que no se hayan completado se cancelan
Lote caducado Un lote que, pasada la ventana de procesamiento, todavía no se ha completado por entero

Panorama rápido del impacto de la OpenAI Batch API

  • Desarrolladores: Para tareas por lotes fuera de línea, se puede calcular el coste de API como la mitad del precio síncrono, y además no se consume la cuota de límite de velocidad de los servicios en línea. Sin embargo, hay que implementar por cuenta propia la asociación por custom_id, el reenvío de fallidos y la validación de resultados.
  • Equipos de contenido y datos: Tareas de clasificación, resumen y limpieza de bases de conocimiento a gran escala salen más rentables. El precio es renunciar al «resultado al instante», así que hay que dejar margen en los plazos de entrega.
  • Evaluación e investigación: Ejecutar conjuntos de pruebas a gran escala es ideal para Batch. Eso sí, hay que tener en cuenta que cada archivo solo puede usar un modelo; si quieres comparar varios modelos, tendrás que dividirlo en varios archivos.
  • Responsables de producto y operaciones: No se debe interpretar «24 horas» como «entrega garantizada mañana por la mañana». A la hora de prometer plazos al exterior, conviene tratar Batch como un canal de mejor esfuerzo.

Hechos objetivos sobre la API Batch de OpenAI

Reglas de facturación y límites de velocidad de la API Batch

Según la guía oficial de Batch (documentación oficial de OpenAI: developers.openai.com/api/docs/guides/batch), la API Batch tiene tres características clave:

  1. Descuento de coste: ofrece un 50% de descuento en comparación con la API sincrónica.
  2. Límite de velocidad independiente: usa un grupo de límites propio, que no comparte cuota con las solicitudes sincrónicas.
  3. Ventana de procesamiento: el lote se procesa dentro de una ventana de 24 horas.

Qué modelos y endpoints están disponibles depende de lo que indique la documentación oficial. Por ahora no se puede afirmar sin más que «todos los modelos admiten Batch».

Formatos de archivo y límites de cantidad de la API Batch

Aspecto de la regla Requisito oficial Significado práctico
Formato de archivo JSONL, una solicitud por línea Cada línea es una tarea independiente
Identificador de solicitud Cada solicitud tiene un custom_id único Es la clave para emparejar los resultados
Restricción de modelo Un solo modelo por archivo Las tareas con varios modelos deben dividirse en varios archivos
Límite de cantidad Máximo 50.000 solicitudes por lote Si se supera, hay que enviar por partes
Límite de tamaño Archivo de hasta 200MB por lote Las tareas de contexto largo pueden chocar antes con este límite
Orden de salida No se garantiza que coincida con el orden de entrada No se pueden emparejar resultados por número de línea

A continuación se muestra una estructura de ejemplo de una línea de solicitud, para indicar dónde va el custom_id. Los endpoints y parámetros concretos dependen de la lista de compatibilidad de la documentación oficial:

{"custom_id": "article-001", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "MODEL_NAME", "messages": [{"role": "user", "content": "为以下主题写一段摘要:..."}]}}

Reglas de caducidad y facturación de la API Batch

Si el lote supera la ventana de procesamiento, las solicitudes que aún no se han completado se cancelan. Los resultados ya completados se pueden seguir descargando, y la facturación solo se aplica a las solicitudes exitosas.

La documentación también advierte algo: enviar con éxito no es lo mismo que generar con éxito. Que se acepte el lote solo significa que ha entrado en el procesamiento; no garantiza que cada línea vaya a producir un resultado. La ventana de 24 horas tampoco es la promesa de «mañana por la mañana a tal hora estarán listos».

openai-batch-api-50-percent-discount-24h-window-es-image-1


Análisis y valoración de la Batch API de OpenAI

El descuento del 50%: ¿en qué parte se ahorra realmente?

El «50% de descuento» se aplica al coste de invocación del modelo del propio procesamiento Batch. A continuación lo explico con un ejemplo ilustrativo; las cifras no son datos medidos.

Supongamos que una tarea, facturada como solicitudes síncronas, cuesta 100 yuanes; entonces el mismo conjunto de solicitudes por Batch tendría un coste ilustrativo de 50 yuanes. Pero el coste total del proyecto no necesariamente se reduce a la mitad, porque hay varios tipos de costes que no se descuentan automáticamente:

Concepto de coste ¿Aplica el 50% de Batch? Explicación
Coste de invocación del modelo en las solicitudes por lotes Sí Ilustrativo: 100 yuanes en síncrono equivalen a 50 yuanes en Batch
Llamadas a herramientas para la investigación previa No Por ejemplo, buscar y investigar antes de decidir qué escribir
Revisión humana No El coste de personal no depende del modelo de facturación
Reintentos adicionales No, hay que calcularlos aparte Volver a ejecutar tras un fallo o una expiración genera nuevas invocaciones
Desarrollo y mantenimiento de ingeniería No La generación de archivos, el emparejamiento de resultados y la lógica de reenvío requieren trabajo

Por eso, al elaborar el presupuesto, conviene aplicar el 50% solo a «la parte de las invocaciones que se puede procesar por lotes», y no recortar directamente a la mitad el presupuesto total del proyecto. Si en un proyecto la investigación y la revisión ocupan una proporción muy alta, el ahorro global que aporta Batch será claramente inferior al 50%.

Cómo entender la ventana de 24 horas

La ventana de 24 horas describe un plazo de procesamiento, no una promesa de entrega. Lo más prudente es tratar los resultados de Batch como una salida “muy probable dentro de la ventana, pero que puede estar parcialmente incompleta”, y reservar tiempo en la planificación para volver a ejecutar lo que falte.

Si el equipo de negocio exige “tener todos los resultados antes de las 9 de la mañana de mañana”, depender de un único envío Batch es riesgoso. Para tareas con requisitos de tiempo rígidos, se puede enviar con anticipación, reservar una ventana para re-ejecuciones o derivar la parte crítica a solicitudes síncronas.

openai-batch-api-50-percent-discount-24h-window-es-image-2

custom_id es el núcleo del diseño de ingeniería de Batch

Como la salida no garantiza el orden, la recuperación de resultados debe depender por completo de custom_id. Esto exige que custom_id tenga significado de negocio desde la fase de diseño y sea globalmente único, por ejemplo, “tipo de tarea-número de lote-secuencia”.

El siguiente ejemplo de diseño tampoco es una prueba real: para generar 20 artículos independientes entre sí con el mismo modelo, se pueden escribir 20 líneas de JSONL. Si al final 18 tienen éxito y 2 se cancelan por expiración, basta usar custom_id para identificar los 2 faltantes y volver a enviarlos, sin tener que reejecutar los 20. Los 18 artículos exitosos se facturan como solicitudes exitosas; los 2 cancelados no se facturan.

Los puntos clave de este flujo se pueden resumir así:

  1. Antes de enviar, validar que cada línea tenga un custom_id único.
  2. Después de recuperar los resultados, tomar el conjunto de custom_id de entrada y restarle el conjunto de custom_id de salida para obtener la lista de faltantes.
  3. Generar un nuevo JSONL solo para la lista de faltantes y volver a enviarlo.
  4. Las re-ejecuciones generan nuevos costos de invocación, que deben incluirse en el presupuesto.

El manejo de múltiples modelos y de flujos con dependencias debe separarse

Un único archivo solo puede usar un modelo. Si en un mismo proyecto quieres que el modelo A haga clasificación y el modelo B haga resúmenes, tendrás que preparar dos archivos por separado, enviarlos y recuperar los resultados de cada uno de forma independiente.

Merece especial atención el tema de las dependencias. Si el flujo consiste en «primero investigar material y luego, a partir de las conclusiones de la investigación, decidir qué escribir», el segundo paso depende de la salida del primero. En ese caso, Batch no orquestará ambos pasos por ti de forma automática. Tendrás que esperar a recuperar los resultados del primer lote y, después, generar las solicitudes del segundo lote desde tu propio programa y enviarlas. Esto también significa que el tiempo total de toda la cadena puede acumular varias ventanas de procesamiento.

Qué tareas encajan bien con OpenAI Batch API

Tipo de tarea ¿Adecuada para Batch? Motivo
Clasificación por lotes según reglas establecidas Sí Reglas fijas, elementos independientes y no se necesita una respuesta en tiempo real
Procesamiento de bases de conocimiento (resumen, limpieza, estructuración) Sí Gran volumen de datos y puede hacerse offline
Evaluación de modelos e inferencia por lotes sobre conjuntos de prueba Sí Es naturalmente por lotes y no es sensible a los plazos
Generación masiva de contenido independiente con el mismo modelo Sí Cada línea es independiente; si algo falla, se puede reintentar usando custom_id
Atención al cliente en tiempo real e interacción conversacional No El usuario necesita una respuesta inmediata; conviene usar llamadas síncronas u otras opciones
Tareas con plazos de entrega estrictos Precaución La ventana de 24 horas no garantiza un momento específico
Flujos de varios pasos en los que primero se investiga y luego se decide el contenido Requiere orquestación propia Batch no gestiona automáticamente las dependencias entre pasos

Una forma sencilla de decidirlo es plantear tres preguntas seguidas: ¿puedo obtener los resultados un poco más tarde? ¿Cada solicitud es independiente de las demás? ¿El volumen es lo bastante grande como para justificar escribir archivos y lógica de recuperación? Si las tres respuestas son «sí», normalmente Batch será la opción más rentable. Si al menos una respuesta es «no», primero hay que dividir la tarea o mantener una llamada síncrona.

Cambios que vale la pena seguir de cerca

Como se trata de una documentación oficial que se mantiene actualizada de forma continua, tanto los modelos y endpoints compatibles como los límites de cantidad y tamaño pueden cambiar. Lo que sigue son conjeturas: a medida que se incorporen más modelos y endpoints a Batch, los flujos de trabajo de evaluación offline y de procesamiento de datos adoptarán cada vez más el procesamiento por lotes como opción predeterminada. A la hora de integrar de verdad, conviene guiarse por las reglas que figuren en la documentación en ese momento y no reutilizar directamente los valores de la fecha de verificación de este artículo.

El valor de la Batch API está en obligarte a pensar con claridad qué cosas pueden esperar. Las tareas que pueden esperar se llevan la mitad del precio y una cuota de límite de velocidad sin interrupciones; las tareas que necesitan una respuesta inmediata siguen en manos de las solicitudes síncronas.

«No busques la rapidez ni te fijes en pequeñas ganancias. Quien busca la rapidez no llega; quien se fija en pequeñas ganancias no logra grandes cosas». — Analectas · Zi Lu

Deja un comentario