OpenAI 프롬프트 캐시: 몇 번 재사용해야 이득일까? 2회와 3회의 손익분기점을 명확히 계산

img-20bab36c8ddd95489ea169bc

바로 답하자면, 이상적인 조건에서는 OpenAI의 기본 30분 프롬프트 캐싱이 두 번째 사용부터 캐시를 쓰지 않는 것보다 저렴하고, 12시간 캐시는 세 번째 사용부터 이익이 나기 시작합니다. 여기서 이상적인 조건은 동일한 고정 프리픽스를 먼저 한 번 완전히 캐시에 기록한 뒤, 이후 요청이 모두 적중하고 그동안 중복 쓰기가 없는 경우를 말합니다. gpt-6-luna의 표준 짧은 컨텍스트 요금제 공식 가격으로 … 더 읽기