Gemini Tool Retrieval은 정말 Token을 절약할 수 있을까? 200개 도구와 10개 도구, 두 가지 비용 결과

img-74aa6512eb073d5a65d9500e

비용을 아낄 수는 있지만, 조건이 있어요. Google 공식 문서에 제시된 두 가지 가상 계산 사례에 따르면, 200개 도구와 2,000 토큰 기본 컨텍스트 시나리오에서는 Gemini Tool Retrieval의 입력 토큰이 164,000에서 23,650으로 줄어 약 85.6% 감소했어요. 10개 도구와 30,000 토큰 기본 컨텍스트 시나리오에서는 입력 토큰이 68,000에서 92,830으로 늘어 약 36.5% 증가했어요. 비용이 유리한지는 한 가지 질문에 달려 … 더 읽기