OpenAI Responses API evitando armadilhas nos custos de inferência: por que reescrever o prefixo pode aumentar a fatura? Localização e reformulação em 4 etapas

OpenAI Responses API evitando armadilhas nos custos de inferência: por que reescrever o prefixo pode aumentar a fatura? Localização e reformulação em 4 etapas

Resumo: Em chamadas multirrodada do Responses API com GPT-6.2, reescrever as entradas iniciais pode reduzir os acertos de cache e também fazer com que alguns itens de raciocínio deixem de ser elegíveis para reutilização. Os desenvolvedores podem adotar uma estrutura de contexto em que só se acrescenta conteúdo ao final e, depois, usar registros de uso em pares para identificar a diferença de custos.

Já adianto a conclusão. O aumento da conta normalmente não tem uma única causa; pode vir de dois lugares ao mesmo tempo: primeiro, depois que o prefixo de entrada é alterado, as leituras de cache diminuem, e a entrada que antes era cobrada pelo preço de cache passa a ser cobrada pelo preço normal de entrada; segundo, o GPT-6.2 removeu itens de raciocínio anteriores por causa de prefix_mismatch, o modelo precisa raciocinar de novo, e pode haver custo extra de raciocínio. Se esses dois itens ocorrem e qual é a fatia de cada um depende da versão do modelo, do local da alteração e do usage real. O exemplo de cálculo abaixo serve apenas para demonstrar o método de decomposição da conta e não representa nenhuma conta real. Se você fizer as chamadas via APIYI (apiyi.com), recomenda-se usar o histórico de input sob seu próprio gerenciamento para montar um grupo de controle e depois conferir os números nos registros de consumo.

openai-responses-api-prefix-rewrite-reasoning-cost-pt-pt-image-0


Mapa de conhecimento sobre custos de inferência na OpenAI Responses API

A tabela abaixo apresenta o conteúdo das quatro seções do artigo e suas relações mútuas, indicando também a ordem de leitura. A seção 1 explica de onde vêm os custos, a seção 2 mostra quais operações os disparam, a seção 3 traz o método de medição, e a seção 4 converte os números medidos em valores monetários e propõe um plano de ajuste.

Nº Pergunta respondida O que entrega para a próxima seção O que você pode fazer depois de ler
1 Onde o custo aumentou Duas linhas de observação: leitura de cache e saída adicional Entender o significado dos campos relevantes em usage
2 Quais ações de edição disparam o aumento Lista de pontos de código que precisam ser investigados Avaliar se sua forma de manter o contexto tem riscos
3 Como isolar as variações Um conjunto de dados pareados comparáveis Confirmar com experimento controlado se o problema existe
4 Quanto custa a diferença e como corrigir Fórmula de decomposição de custos e três ajustes Estimar a diferença e verificar a cobrança real pelo request ID

Se você já confirmou que há reescrita de prefixo, pode começar direto pela seção 3. As seções 1 e 2 servem como referência de comparação durante a investigação.

Para Saber: Termos relacionados ao custo de inferência da Responses API

Termo Explicação resumida
Responses API Interface da OpenAI usada para unificar o tratamento de respostas do modelo, raciocínio e chamadas de ferramentas
Prefixo de entrada Conteúdo de entrada inicial e configurações mantidos na mesma ordem no começo de requisições de múltiplas rodadas
Acerto de cache A requisição atual reutiliza tokens de entrada já processados, e essa parte é cobrada pelo preço de leitura de cache
Item de raciocínio Um tipo de item estruturado na resposta de modelos de raciocínio, que pode ser reutilizado em requisições subsequentes compatíveis
prefix_mismatch Valor de motivo em diagnósticos relacionados ao GPT-6.2, indicando que um prefixo anterior foi alterado, o que levou à remoção dos itens de raciocínio
Somente anexação Forma de manutenção de histórico que preserva o conteúdo e a ordem originais e apenas acrescenta novos eventos no final
reasoning_tokens Subitem de raciocínio dentro do uso de saída, usado para observar o consumo de raciocínio
x-request-id Identificador da requisição no cabeçalho de resposta, usado para correlacionar a resposta do cliente com os logs do fornecedor

1. Por que o custo de inferência da Responses API sobe em dois lugares

1.1 Primeira linha: menos leitura de cache

Conforme explica o documento “Prompt caching” da OpenAI, o cache de prompt começa a correspondência a partir do início da requisição. Basta que um trecho anterior seja reescrito para que a parte posterior ao ponto de alteração deixe de ser cobrada pelo preço de leitura de cache e passe a ser cobrada pelo preço normal de entrada. Tomando como exemplo o preço de contexto curto do gpt-6.2-sol na tabela geral de preços da APIYI, a entrada normal custa 2 dólares por milhão de tokens e a leitura de cache custa 0,10 dólar — uma diferença de 20 vezes.

Essa variação de custo tem campo correspondente em usage: o total de input_tokens pode ficar praticamente igual, mas o cached_tokens dentro dele diminui. Olhar só para o volume total de entrada não revela o problema; é preciso registrar separadamente o volume de leitura de cache.

1.2 Segunda linha: nova saída depois que os itens de raciocínio perdem o direito de reutilização

No API Changelog da OpenAI de 2026-11-17, o comportamento de “editar o histórico anterior faz os itens de raciocínio serem removidos com o motivo prefix_mismatch” foi marcado como válido a partir do GPT-6.2. Depois que os itens de raciocínio são removidos, o modelo não vê mais o conteúdo de raciocínio anterior nas rodadas seguintes e pode precisar raciocinar de novo, o que pode gerar custo adicional de raciocínio.

Essa linha se reflete no lado da saída, aparecendo como mais reasoning_tokens e mais saída total. Ela pode ocorrer ao mesmo tempo que a redução na leitura de cache, mas são dois campos independentes em usage, então é preciso observá-los separadamente durante a investigação.

1.3 A relação de inclusão entre output_tokens e reasoning_tokens

Segundo o documento “Counting tokens” da OpenAI, output_tokens já inclui o consumo de raciocínio, e output_tokens_details.reasoning_tokens é apenas o subitem de diagnóstico dentro dele. Para calcular o custo, basta multiplicar output_tokens pelo preço unitário de saída. Se você somar reasoning_tokens outra vez em separado, vai contar duas vezes.

openai-responses-api-prefix-rewrite-reasoning-cost-pt-pt-image-1


2. Quais ações de edição de prefixo fazem o custo de raciocínio aumentar

2.1 Operações comuns que acionam prefix_mismatch

Segundo as orientações do OpenAI em “Keep the prefix unchanged” e “Reasoning models”, as operações abaixo reescrevem o prefixo e, no GPT-6.2, podem fazer com que os itens de raciocínio sejam removidos:

Operação Cenário típico de código Risco
Reescrever mensagens antigas Voltar e corrigir a redação do turno 2 do usuário, ou adicionar um carimbo de data/hora a uma mensagem antiga Reescreve o prefixo
Reescrever resultados antigos de ferramentas Encurtar o JSON retornado por uma ferramenta anterior para economizar tokens Reescreve o prefixo (encurtar também conta como reescrita)
Inserir conteúdo antes de um item de raciocínio relacionado Colocar material recém-recuperado no meio do histórico Reescreve o prefixo
Excluir um item inteiro mantendo o restante intacto Remover uma mensagem antiga completa Não aciona esse motivo de remoção, mas o volume de acertos de cache ainda pode mudar
Anexar depois de um item de raciocínio Adicionar novas mensagens em ordem cronológica Não aciona esse motivo de remoção

“Encurtar a saída antiga de uma ferramenta” parece uma forma de economizar tokens, mas é uma reescrita. Só quando você exclui um item completo e mantém os demais inalterados é que o prefix_mismatch não é acionado. Mesmo assim, o ponto de partida do casamento de cache pode mudar, e o volume de leitura de cache ainda precisa ser medido na prática.

2.2 A diferença entre troca de versão, de nível e de família de modelo

Esses tipos de mudança precisam ser avaliados separadamente:

  • Diferença de versão: a OpenAI deixa claro que a remoção de itens de raciocínio por prefix_mismatch é um comportamento que começa no GPT-6.2. O GPT-6.1 Sol suporta reasoning.context: all_turns e consegue renderizar raciocínios anteriores quando o histórico compatível está disponível. Ao migrar de 6.1 para 6.2, a forma de manutenção de contexto que você já usava precisa ser validada novamente.
  • Nível de raciocínio: as duas gerações do Sol oferecem os cinco níveis low, medium, high, xhigh e max; o 6.2 Sol rejeita none. A abordagem organizada pelo artigo de terceiros OrcaRouter é não alterar reasoning.effort diretamente entre requisições, mas sim anexar um item configuration_update no input. O mesmo texto observa que históricos contendo esse tipo de item são truncados automaticamente e rejeitados por /responses/compact. Antes de adotar essa prática, baseie-se na documentação oficial da OpenAI.
  • Troca de família de modelo e downgrade: segundo a OpenAI, trocar de família de modelo ou passar para um modelo de capacidade menor também pode remover itens de raciocínio já existentes. Esse é um motivo diferente do prefix_mismatch e deve ser classificado separadamente nas estatísticas.

2.3 Posição e cobrança do instructions de nível superior no GPT-6.2

O documento “Using GPT-6.2” da OpenAI explica que o instructions de nível superior do GPT-6.2 é anexado depois do input e cobrado como entrada não cacheada. Por isso, ele serve para comandos temporários de desenvolvedor do turno atual, e não para grandes blocos de configuração de sistema que permanecem iguais por muito tempo.

Instruções que precisam ser reutilizadas por longo prazo devem ficar no input, como a primeira mensagem developer, para poderem ser cacheadas. Se quiser ajustar instruções de longo prazo, anexe uma nova mensagem developer ao final do histórico — não volte para editar a primeira.


3. Isolar mudanças no custo de raciocínio da Responses API com requisições de controle

3.1 Configuração do grupo de controle

Mantenha fixos o modelo, o nível de raciocínio, as definições de ferramentas e o volume de entrada; mude apenas uma variável: a forma de manutenção do histórico. O grupo A apenas acrescenta conteúdo, enquanto o grupo B reescreve um trecho no início. Cada grupo executa várias rodadas, usando o mesmo conjunto de tarefas.

Registre cada requisição de forma padronizada conforme a tabela abaixo. A qualidade da tarefa precisa ser pontuada manualmente ou por um script de avaliação, porque a redução de custo não pode vir às custas de resultados piores.

Campo Origem Finalidade
Grupo Personalizado Distinguir o grupo que apenas acrescenta do grupo que reescreve
cached_tokens usage.input_tokens_details Observar a primeira linha
reasoning_tokens usage.output_tokens_details Observar a segunda linha
output_tokens usage Calcular o custo de saída
Latência Cronometragem no cliente O aumento do raciocínio geralmente vem acompanhado de maior tempo de execução
Qualidade da tarefa Pontuação manual ou por script de avaliação Excluir casos em que se troca qualidade por custo
x-request-id Cabeçalho da resposta Conciliação

3.2 Exemplo de chamada apenas com anexação

O código abaixo mantém o histórico de input por conta própria, acrescentando apenas ao final a cada rodada e, ao mesmo tempo, gravando o uso e o ID da requisição no log:

import json, time
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1",
)

MODEL = "gpt-6.2-sol"
EFFORT = "medium"  # Fixado para toda a sessão; não altere entre as rodadas

# Prefixo estável: as instruções reutilizáveis ficam no primeiro item de input e não são alteradas depois
history = [{"role": "developer", "content": "你是代码审查助手,回答简洁。"}]

def ask(user_text, variant="append_only", log_path="usage_log.jsonl"):
    history.append({"role": "user", "content": user_text})
    t0 = time.time()
    raw = client.responses.with_raw_response.create(
        model=MODEL,
        reasoning={"effort": EFFORT},
        input=history,
        store=False,
        include=["reasoning.encrypted_content"],  # É preciso verificar antes se o grupo de destino é retornado
    )
    resp = raw.parse()
    latency = round(time.time() - t0, 2)

    # Apenas anexação: a saída desta rodada (incluindo itens de raciocínio) volta como está para o final do histórico
    history.extend(item.model_dump(exclude_none=True) for item in resp.output)

    u = resp.usage
    record = {
        "variant": variant,
        "model": MODEL,
        "effort": EFFORT,
        "request_id": raw.headers.get("x-request-id"),
        "response_id": resp.id,
        "input_tokens": u.input_tokens,
        "cached_tokens": getattr(u.input_tokens_details, "cached_tokens", 0),
        "output_tokens": u.output_tokens,
        "reasoning_tokens": getattr(u.output_tokens_details, "reasoning_tokens", 0),
        "latency_s": latency,
    }
    with open(log_path, "a", encoding="utf-8") as f:
        f.write(json.dumps(record, ensure_ascii=False) + "\n")
    return resp.output_text

A variante de reescrita reutiliza a mesma função: antes da N-ésima rodada, altere o conteúdo de history[1] e defina variant como "early_rewrite"; os demais parâmetros permanecem iguais.

🚀 Início rápido: ao montar o grupo de controle, você pode alternar entre gpt-6.1-sol e gpt-6.2-sol usando a mesma chave API via APIYI apiyi.com. Com a mesma estrutura de logs, dá para comparar o impacto das diferenças entre versões no uso de cache e de raciocínio.

3.3 Diagnóstico auxiliar na conexão direta oficial

Ao se conectar diretamente à OpenAI, você pode definir prompt_cache_options.comparison_response_id como o ID de uma resposta anterior e, em seguida, ler o motivo do diagnóstico retornado e o número de tokens em cache. O campo input_transformations da resposta lista quais itens de raciocínio foram removidos e o motivo; entre eles, prefix_mismatch pode ser associado por ID ao item de raciocínio na saída da resposta antiga.

# Apenas para conexão direta oficial com a OpenAI
resp = openai_client.responses.create(
    model="gpt-6.2-sol",
    input=history,
    extra_body={"prompt_cache_options": {"comparison_response_id": prev_response_id}},
)
print(getattr(resp, "input_transformations", None))

Esse diagnóstico tem duas limitações: o diagnóstico de cache, seguindo o princípio de melhor esforço, reporta apenas a primeira diferença, e não é possível confirmar se o modelo realmente reutilizou o raciocínio preservado. Ele informa que “um item de raciocínio foi removido”, mas não “quanto a mais foi gasto por causa disso”; o custo ainda precisa ser avaliado junto com o uso emparelhado da seção 3.1.

3.4 Observações ao chamar via APIYI

A conexão direta com a OpenAI permite continuar o estado da sessão com previous_response_id. O guia de invocação nativa da Responses API da APIYI (docs.apiyi.com) afirma, no corpo do texto, que esse modo encadeado não funciona, mas o FAQ da mesma página registra que ele funcionou em testes reais em 2026-09-02. Como as duas afirmações divergem, a linha de base mais segura é gerenciar você mesmo o histórico em input, como descrito na seção 3.2.

A continuidade de estado, o envio de itens de raciocínio criptografados de volta e os campos de diagnóstico acima podem variar na prática conforme o grupo de tokens, sendo necessário validar separadamente no grupo de destino. Se os campos de diagnóstico não estiverem disponíveis, os logs de uso emparelhados ainda podem servir como base para a avaliação.

openai-responses-api-prefix-rewrite-reasoning-cost-pt-pt-image-2


4. Detalhando com números os custos de inferência da Responses API e implementando as mudanças

4.1 Preços de tabela usados na estimativa

A seguir estão os preços de tabela padrão para contexto curto da tabela geral de preços da APIYI apiyi.com (atualizada em 20/11/2026 às 15:17, horário de Pequim, em dólares por milhão de tokens). A cobrança efetiva também depende do grupo de tokens em que o modelo está e do custo de recarga, então é preciso verificar cada um separadamente.

ID do modelo na APIYI Entrada normal Leitura de cache Saída
gpt-6.2-sol, gpt-6.1-sol $2 $0.10 $10
gpt-6-sol $2 $0.20 $10
gpt-6.2-astra $8 $0.40 $40

O contexto longo precisa ser calculado separadamente. Quando a entrada do gpt-6.2-sol ultrapassa 272.000 tokens, o preço de entrada listado atualmente na tabela geral da APIYI é $3, enquanto a página oficial do modelo Standard da OpenAI lista $4; para o gpt-6.1-sol, o preço de entrada para contexto longo é $4 nos dois lugares. Para os preços de cache e de saída da faixa de contexto longo, confira as regras de cobrança em tempo real de cada canal.

4.2 Exemplo de rateio entre duas requisições

Premissas: contexto curto, preço padrão do APIYI Sol, ambas as requisições com entrada de 12,000 tokens, sem gravação de cache listada separadamente e sem custo de ferramentas. Todos os números abaixo são hipotéticos, não dados medidos.

Item Prefixo preservado Prefixo reescrito
Leitura de cache 9,000 × $0.10/M = $0.0009 3,000 × $0.10/M = $0.0003
Entrada normal 3,000 × $2/M = $0.0060 9,000 × $2/M = $0.0180
Saída total 1,000 × $10/M = $0.0100 1,600 × $10/M = $0.0160
Total $0.0169 $0.0343

A diferença entre as duas é de $0.0174, que pode ser decomposta em duas partes: $0.0114 vem dos 6,000 tokens de entrada que passam do preço de cache para o preço de entrada normal, ou seja, 6,000 × ($2 − $0.10) / 1,000,000; e $0.0060 vem dos 600 tokens de saída total adicionais. Essas duas partes correspondem, respectivamente, às duas linhas da seção 1. A diferença real deve ser baseada no seu próprio usage. Se houver gravação de cache listada separadamente, o cálculo deve ser feito separadamente nas três categorias mutuamente exclusivas: entrada normal, leitura de cache e gravação de cache.

4.3 Reconciliação pelo ID da requisição

Depois de estimar, confira a cobrança real. Nos logs de consumo do APIYI apiyi.com, use o x-request-id do cabeçalho de resposta para localizar o registro correspondente com type=2, e converta quota ÷ 500,000 para chegar ao valor real cobrado em dólares. Registre também o modelo, o grupo de token, o período da invocação e o uso de entrada e saída dessa requisição.

Ainda não existe um faturamento público de comparação por prefixo para APIYI no mesmo grupo e mesma tarefa. Por isso, ao avaliar o efeito das mudanças, você deve se basear nos seus próprios logs de requisições emparelhadas e nos registros de cobrança.

💰 Sugestão de reconciliação: associe o request_id dos logs da seção 3.2 com os logs de consumo, item por item, gerando três colunas: “campo de uso → valor estimado → cobrança real”. A coluna em que aparecer desvio indica em qual etapa está o problema.

4.4 Três mudanças

  1. Fixe a definição das ferramentas e as instruções estáveis: mantenha a ordem original das definições de ferramentas e não as altere no meio da sessão; coloque as instruções de longo prazo na primeira mensagem developer do input, e o prompt temporário da rodada atual pode usar o instructions de nível superior do GPT-6.2 — mas aceite que ele será cobrado como entrada não cacheada.
  2. Anexe o contexto em ordem: novas mensagens, novos resultados de ferramentas e novos materiais recuperados vão todos para o final. Se realmente precisar enxugar, exclua itens completos, nunca reescreva o conteúdo deles.
  3. Teste separadamente contexto longo e migração de versão: quando o contexto longo passar de 272.000 tokens de entrada, aplica-se outra faixa de preço, então monte um grupo de controle separado; ao migrar de gpt-6.1-sol para gpt-6.2-sol, ou ao ajustar a faixa e trocar de família de modelos, valide primeiro com o método de comparação da seção 3 e só depois implante em produção integralmente.

Depois dessas mudanças, dá para verificar o efeito assim: rode novamente os dois grupos de controle sobre o mesmo conjunto de tarefas. Se a proporção de cached_tokens do grupo apenas de anexação estiver estável, se reasoning_tokens não tiver subido de forma anormal e se a cobrança real conferida pelo ID da requisição bater com a estimativa, significa que esse custo está sob controle.


Referências

  1. OpenAI《Keep the prefix unchanged》: manutenção do prefixo e diagnóstico prefix_mismatch
    • Link: developers.openai.com/api/docs/guides/keep-prefix-unchanged
  2. OpenAI《Reasoning models》: reutilização de itens de raciocínio e a exceção de remoção do item inteiro
    • Link: developers.openai.com/api/docs/guides/reasoning
  3. OpenAI《Prompt caching》 e 《Counting tokens》: regras de correspondência de cache e campos de uso
    • Link: developers.openai.com/api/docs/guides/prompt-caching
  4. OpenAI API Changelog (entrada do GPT-6.2, 2026-11-17)
    • Link: developers.openai.com/api/docs/changelog
  5. OrcaRouter《GPT-6.2 Preserved Reasoning》: abordagem de reescrita apenas com acréscimos (append-only) organizada por terceiros
    • Link: orcarouter.ai/blog/gpt-6-2-preserved-reasoning
  6. APIYI《Tabela geral de preços de modelos》
    • Link: docs.apiyi.com/models
  7. APIYI《API de consulta de logs》
    • Link: docs.apiyi.com/api-capabilities/log-query
  8. APIYI《Guia de chamada nativa da OpenAI Responses API》
    • Link: docs.apiyi.com/api-capabilities/openai/native

Autor: Equipe técnica da APIYI
Intercâmbio técnico: fique à vontade para nos contatar na página inicial do site da APIYI; mais materiais podem ser encontrados no centro de documentação docs.apiyi.com

Artigos relacionados

Similar Posts