API Batch da OpenAI: para quais tarefas são adequados o desconto de 50% e a janela de 24 horas? 5 pontos de avaliação
Resposta direta: a OpenAI Batch API é adequada para tarefas com resultados que podem chegar mais tarde, que são independentes entre si e que envolvem lotes grandes. O preço é metade do da API síncrona e ela usa um pool de limites de taxa separado. A restrição é uma janela de processamento de 24 horas, … Ler mais