استدعاء نفس الموجه الطويل يوميًا: هل يوفّر Prompt Caching حقًا كم من تكاليف API؟ حساب فعلي لـ 4 نماذج و100 استدعاء
ملخص: يستخدم هذا المقال مجموعة أحمال عمل واحدة لحساب تكلفة Prompt Caching في أربعة أجزاء: كتابة الذاكرة المؤقتة، وقراءة الذاكرة المؤقتة، والمدخلات الديناميكية، والمخرجات، ثم يوضح كيف تؤثر نسبة الإصابة وTTL وإيقاع الاستدعاء في التوفير الفعلي. الاستنتاج: حمل العمل المفترض في هذا المقال هو بادئة ثابتة بحجم 20K Token في كل استدعاء، ومدخلات ديناميكية بحجم … اقرأ المزيد