De onde vem a conta de tokens em tarefas longas de agentes: 99,4% de tokens de entrada e 5 práticas para otimizar o cache de prefixo
Nota do autor: uma análise da estrutura de custos de Token em tarefas longas de Agent, explicando por que os Tokens de entrada representam a maior parte da conta e como organizar o contexto para reutilizar melhor o cache de prefixo. Muitas equipes só percebem o problema ao olhar a conta no fim do mês,…