¿Gemini Tool Retrieval realmente ahorra tokens? 200 herramientas frente a 10 herramientas, dos resultados de costos
Se puede ahorrar, pero con condiciones. Según los dos casos hipotéticos de cálculo que figuran en la documentación oficial de Google, en un escenario con 200 herramientas y un contexto base de 2,000 tokens, los tokens de entrada de Gemini Tool Retrieval bajan de 164,000 a 23,650, una reducción de aproximadamente 85.6%. En un escenario … Leer más