Cache de comandos da OpenAI: quantas reutilizações valem a pena? Entenda o ponto de equilíbrio para 2 e 3 reutilizações

img-20bab36c8ddd95489ea169bc

Resposta direta: em condições ideais, o cache de prompt padrão de 30 minutos da OpenAI já fica mais barato a partir do segundo uso; o cache de 12 horas só começa a compensar no terceiro uso. Essas condições ideais significam: o mesmo prefixo fixo é gravado por inteiro no cache uma única vez, todas as … Ler mais