API Batch da OpenAI: para quais tarefas são adequados o desconto de 50% e a janela de 24 horas? 5 pontos de avaliação

Resposta direta: a OpenAI Batch API é adequada para tarefas com resultados que podem chegar mais tarde, que são independentes entre si e que envolvem lotes grandes. O preço é metade do da API síncrona e ela usa um pool de limites de taxa separado. A restrição é uma janela de processamento de 24 horas, e essa janela não garante a entrega do resultado em um momento específico. Trabalhos offline como classificação baseada em regras predefinidas, processamento de base de conhecimento e avaliação de modelos podem priorizar o Batch. Atendimento ao cliente em tempo real, interações que exigem resposta imediata e fluxos dependentes em que o resultado da etapa anterior determina o conteúdo da próxima não devem ser entregues ao Batch API.

openai-batch-api-50-percent-discount-24h-window-pt-pt-image-0

O que você poderá entender ao terminar de ler este artigo?

  • As regras centrais da OpenAI Batch API: desconto, limites de taxa, janela, formato de arquivo e limites de quantidade.
  • A diferença entre envio bem-sucedido, geração bem-sucedida e entrega no prazo.
  • Como a cobrança funciona depois que um lote expira e como executar novamente apenas as solicitações com falha.
  • Que parte do custo o desconto de 50% realmente reduz e quais custos não caem pela metade.
  • Um método prático para determinar se uma tarefa é adequada para o Batch.

Índice: Antes do texto principal, uma tabela conceitual e um resumo de impacto ajudam a estabelecer o conhecimento básico. A seção “Fatos objetivos” organiza, item por item, as regras da documentação oficial; a seção “Análise e julgamento” discute o que essas regras significam para a seleção de tarefas, a estimativa de custos e o design de engenharia, além de apresentar os tipos de tarefa adequados e inadequados.

Vale esclarecer que este artigo se baseia no guia do Batch da OpenAI, mantido continuamente pela própria OpenAI, e foi verificado em 2026-11-17. Esse documento não tem uma data de publicação inicial explícita, então este artigo não o trata como um novo recurso lançado naquele dia, mas como uma interpretação das regras de uma capacidade existente.


Para saber: entendendo os conceitos-chave da OpenAI Batch API

Conceito Explicação resumida
API síncrona O jeito convencional de chamar: você envia a requisição, espera e recebe o resultado na hora
Batch API Interface em que você envia muitas requisições de uma vez, elas são processadas de forma assíncrona e você busca os resultados depois
JSONL Formato de texto em que cada linha é um objeto JSON independente; no Batch, cada linha corresponde a uma requisição
custom_id Identificador único que você define para cada requisição, usado para casar o resultado com a requisição original
Pool de limite de taxa independente Os limites de taxa das requisições Batch são contados separadamente das requisições síncronas, sem disputar espaço entre si
Janela de processamento de 24 horas Prazo de processamento do lote; requisições não concluídas dentro desse prazo são canceladas
Lote expirado Lote que passou da janela de processamento e ainda não foi totalmente concluído

Um panorama rápido dos impactos da OpenAI Batch API

  • Desenvolvedores: dá para estimar o custo de API de tarefas em lote offline pela metade do preço da chamada síncrona, e sem consumir a cota de limite de taxa do serviço online. Em compensação, você precisa implementar por conta própria o pareamento via custom_id, o reenvio de falhas e a validação dos resultados.
  • Equipes de conteúdo e dados: classificação, resumo e limpeza de bases de conhecimento em grande volume saem bem mais em conta. O preço é abrir mão do “resultado na hora” e deixar uma folga no prazo de entrega.
  • Avaliação e pesquisa: rodar conjuntos de teste em larga escala é um caso perfeito para o Batch. Só lembre que cada arquivo aceita apenas um modelo; para comparar vários modelos, é preciso dividir em vários arquivos.
  • Produtos e operações: não interprete “24 horas” como “entrego amanhã de manhã com certeza”. Ao prometer prazos externamente, trate o Batch como um canal de melhor esforço.

Fatos objetivos sobre a OpenAI Batch API

Regras de cobrança e de limite de taxa da Batch API

Segundo o guia oficial da Batch (documentação oficial da OpenAI: developers.openai.com/api/docs/guides/batch), a Batch API tem três características centrais:

  1. Desconto de custo: oferece 50% de desconto em comparação com a API síncrona.
  2. Limite de taxa independente: usa um pool de limites próprio, que não compartilha cota com as requisições síncronas.
  3. Janela de processamento: os lotes são concluídos dentro de uma janela de 24 horas.

Quais modelos e endpoints são suportados segue a lista do documento oficial. Hoje não dá para afirmar, de forma genérica, que “todos os modelos suportam Batch”.

Formato de arquivo e limite de quantidade da Batch API

Item da regra Exigência oficial O que isso significa na prática
Formato do arquivo JSONL, uma requisição por linha Cada linha é uma tarefa independente
Identificador da requisição Cada requisição tem um custom_id único É por ele que os resultados são recuperados e combinados
Restrição de modelo Um único arquivo pode conter apenas um modelo Tarefas com vários modelos precisam ser divididas em vários arquivos
Limite de quantidade No máximo 50.000 requisições por lote Acima do limite é preciso enviar em lotes separados
Limite de tamanho Arquivo do lote com no máximo 200MB Tarefas de contexto longo podem esbarrar primeiro no limite de tamanho
Ordem da saída Não há garantia de que a saída siga a ordem da entrada Não dá para casar os resultados pelo número da linha

Abaixo está um exemplo da estrutura de uma linha de requisição, só para mostrar onde fica o custom_id. Os endpoints e parâmetros específicos devem seguir a lista de suporte da documentação oficial:

{"custom_id": "article-001", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "MODEL_NAME", "messages": [{"role": "user", "content": "为以下主题写一段摘要:..."}]}}

Regras de expiração e de cobrança da Batch API

Se o lote ultrapassar a janela de processamento, as requisições ainda não concluídas nele são canceladas. Os resultados já obtidos com sucesso continuam disponíveis para download, e a cobrança recai apenas sobre as requisições bem-sucedidas.

A documentação também faz um lembrete: enviar com sucesso não é o mesmo que gerar com sucesso. O lote ser aceito significa apenas que ele entrou no fluxo de processamento, não que cada linha vai produzir um resultado. A janela de 24 horas também não é a promessa de “entrega amanhã cedo em algum horário”.

openai-batch-api-50-percent-discount-24h-window-pt-pt-image-1


Análise e considerações sobre a OpenAI Batch API

Em qual parte o desconto de 50% realmente economiza

O “desconto de 50%” se aplica ao custo de invocação do modelo no processamento em lote (Batch). A seguir, uso um exemplo ilustrativo; os números não são dados reais de medição.

Suponha que uma tarefa custe 100 yuans em requisições síncronas. Se o mesmo pedido for enviado via Batch, o custo indicativo seria 50 yuans. O custo total do projeto, porém, não necessariamente cai pela metade, porque alguns tipos de custo não recebem desconto automático:

Item de custo Recebe desconto de 50% com Batch? Descrição
Custo de invocação do modelo nas requisições em lote Sim Indicativo: 100 yuans no síncrono correspondem a 50 yuans no Batch
Chamadas de ferramentas para pesquisa prévia Não Por exemplo, pesquisar e investigar antes de definir o que escrever
Revisão humana Não O custo de mão de obra independe do modelo de cobrança
Novas tentativas extras Não; precisam ser calculadas à parte Execuções de recuperação após falha ou expiração geram novas chamadas
Desenvolvimento e manutenção de engenharia Não Geração de arquivos, correspondência de resultados e lógica de reenvio exigem investimento

Portanto, ao montar o orçamento, aplique o desconto de 50% apenas à “parte das chamadas que pode ser processada em lote”, sem simplesmente cortar pela metade o orçamento total do projeto. Se um projeto tiver uma proporção alta de pesquisa e revisão, a economia geral trazida pelo Batch será bem menor que 50%.

Como entender a janela de 24 horas

A janela de 24 horas descreve um prazo de processamento, não uma promessa de entrega. A abordagem mais segura é tratar os resultados do Batch como uma saída “provavelmente disponível dentro da janela, mas que pode ter partes faltando” e reservar tempo no cronograma para reexecuções.

Se a área de negócio exigir “todos os resultados obrigatoriamente antes das 9h de amanhã”, depender de um único envio em Batch é arriscado. Para tarefas com exigência rígida de prazo, dá para enviar antes, reservar uma janela para reexecuções ou migrar a parte crítica para requisições síncronas.

openai-batch-api-50-percent-discount-24h-window-pt-pt-image-2

O custom_id é o núcleo do design de engenharia do Batch

Como a saída não tem ordem garantida, a coleta dos resultados precisa depender totalmente do custom_id. Isso exige que o custom_id já tenha significado de negócio na fase de design e seja globalmente único, por exemplo, “tipo de tarefa-número do lote-sequência”.

O exemplo de design abaixo também não é um teste real: para gerar 20 artigos independentes com o mesmo modelo, dá para escrever 20 linhas de JSONL. Se, no fim, 18 artigos forem concluídos e 2 forem cancelados por expiração, basta usar o custom_id para localizar os 2 ausentes e reenviá-los, sem precisar reexecutar os 20. Os 18 concluídos são cobrados como requisições bem-sucedidas; os 2 cancelados não são cobrados.

Os pontos-chave desse fluxo podem ser resumidos assim:

  1. Antes do envio, valide se o custom_id de cada linha é único.
  2. Depois de coletar os resultados, subtraia o conjunto de custom_id de saída do conjunto de custom_id de entrada para obter a lista de ausentes.
  3. Gere um novo JSONL apenas para a lista de ausentes e envie novamente.
  4. As reexecuções geram novos custos de invocação e precisam entrar no orçamento.

Múltiplos modelos e fluxos com dependências precisam ser tratados separadamente

Um único arquivo só pode usar um modelo. Se o mesmo projeto quiser que o modelo A faça classificação e o modelo B faça resumo, será preciso preparar dois arquivos separados, cada um submetido e recuperado individualmente.

Vale destacar ainda mais as relações de dependência. Se o fluxo for “primeiro pesquisar materiais, depois decidir o que escrever com base nas conclusões da pesquisa”, o segundo passo depende da saída do primeiro, e o Batch não vai orquestrar automaticamente esses dois passos por você. Você precisa, após recuperar os resultados do primeiro lote, gerar as requisições do segundo lote no seu próprio programa e então submetê-las. Isso também significa que o tempo total da cadeia inteira pode acumular múltiplas janelas de processamento.

Quais tarefas são adequadas para a OpenAI Batch API

Tipo de tarefa Adequado para Batch? Motivo
Classificação em lote seguindo regras predefinidas Adequado Regras fixas, itens independentes, sem necessidade de retorno em tempo real
Processamento de base de conhecimento (resumo, limpeza, estruturação) Adequado Grande volume de dados, pode ser feito offline
Avaliação de modelos, inferência em lote de conjuntos de teste Adequado Naturalmente em lote, insensível a prazos
Geração em lote de conteúdo independente com o mesmo modelo Adequado Cada linha é independente, falhas podem ser reexecutadas por custom_id
Atendimento em tempo real, interação conversacional Não adequado O usuário precisa de resposta imediata, deve usar chamadas síncronas ou outros métodos
Tarefas com prazo de entrega rígido Cuidado A janela de 24 horas não garante um horário específico
Fluxos de múltiplos passos: primeiro pesquisar, depois decidir o conteúdo Requer orquestração própria O Batch não trata automaticamente dependências entre passos

Uma forma simples de decidir é fazer três perguntas em sequência: o resultado pode ser obtido mais tarde? Cada requisição é independente das outras? O volume é grande o suficiente para valer a pena escrever arquivos e lógica de recuperação? Se as três respostas forem “sim”, o Batch geralmente é a escolha mais vantajosa. Se alguma resposta for “não”, primeiro divida a tarefa ou mantenha chamadas síncronas.

Mudanças que vale a pena acompanhar no futuro

Como este é um documento oficial mantido de forma contínua, os modelos e endpoints suportados, além dos limites de quantidade e volume, podem sofrer ajustes. As considerações a seguir são previsões: conforme mais modelos e endpoints forem incluídos no Batch, fluxos de trabalho de avaliação offline e de processamento de dados passarão a adotar o processamento em lote como padrão com mais frequência. Na integração real, ainda vale seguir as regras listadas na documentação daquele momento — não simplesmente reaproveitar os números da data de verificação deste artigo.

O valor da Batch API está em nos fazer pensar com clareza sobre o que pode esperar. As tarefas que podem esperar ganham metade do preço e uma cota de limite de taxa sem interrupções; já as tarefas que precisam de resposta imediata continuam sendo enviadas como requisições síncronas.

“Não queira ser rápido, não veja pequenos lucros. Querer ser rápido leva a não chegar; ver pequenos lucros leva a não realizar grandes coisas.” — Analectos de Confúcio · Zi Lu

Deixe um comentário