De dónde viene la factura de tokens en tareas largas de agentes: la entrada representa el 99,4 % y 5 prácticas para optimizar la caché de prefijos
Nota del autor: Un análisis de la factura de tokens en tareas largas de agentes: por qué los tokens de entrada representan casi todo el consumo y cómo organizar el contexto para reutilizar mejor la caché de prefijos. Muchos equipos descubren el problema al revisar la factura de fin de mes, después de integrar agentes…