تكلفة الرموز

ملاحظة الكاتب: نستعرض بنية فاتورة Token للمهام الطويلة التي ينفذها الوكيل، ونوضح لماذا تستحوذ رموز الإدخال على معظم الاستهلاك، وكيف يمكن تنظيم السياق لزيادة الاستفادة من ذاكرة التخزين المؤقت للبادئة. بعد دمج وكيل متعدد الخطوات في منتجاتها، تكتشف فرق كثيرة المشكلة عند مراجعة الفاتورة في نهاية الشهر: المستخدم قدّم طلبًا واحدًا فقط، لكن استهلاك Token…