摘要:在 GPT-6.2 的多轮 Responses API 调用中,改写早期输入可能减少缓存命中,也可能让部分推理项失去复用资格。开发者可以改用仅追加的上下文结构,再用成对的用量日志定位费用差异。
先说结论。账单上涨的原因通常不止一个,可能同时来自两处:一是输入前缀被改动后,缓存读取变少,原本按缓存价计费的输入改按普通输入价计费;二是 GPT-6.2 因 prefix_mismatch 移除了早期推理项,模型需要重新推理,可能发生额外推理成本。这两项是否出现、各占多少,取决于模型版本、改动位置以及实际 usage。下文的算例只用于演示拆账方法,不代表任何真实账单。如果通过 API易(apiyi.com)调用,建议用自己管理的 input 历史建立对照组,再按消费日志核算。

OpenAI Responses API 推理成本知识地图
下表列出全文四节的内容和相互关系,也标明阅读顺序。第 1 节解释费用从哪里来,第 2 节说明哪些操作会触发,第 3 节给出测量方法,第 4 节把测到的数字换算成金额,并给出改造方案。
| 编号 | 回答的问题 | 为下一节提供什么 | 读完能做什么 |
|---|---|---|---|
| 1 | 费用涨在哪里 | 两条观察线:缓存读取、新增输出 | 读懂 usage 中相关字段的含义 |
| 2 | 哪些编辑动作会触发 | 需要排查的代码位置清单 | 判断自己的上下文维护方式是否有风险 |
| 3 | 如何隔离变化 | 一组可对比的成对数据 | 用对照实验确认问题是否存在 |
| 4 | 差多少钱、怎么改 | 拆账公式与三项改造 | 估算差额,并按请求 ID 核对实际扣费 |
如果你已经确认存在前缀改写,可以直接从第 3 节开始。第 1 节和第 2 节可作为排查时的对照依据。
To Know:Responses API 推理成本相关术语
| 术语 | 简明解释 |
|---|---|
| Responses API | OpenAI 用于统一处理模型响应、推理与工具调用的接口 |
| 输入前缀 | 多轮请求开头保持相同顺序的早期输入内容及配置 |
| 缓存命中 | 本次请求复用已处理过的输入 Token,这部分按缓存读取价计费 |
| 推理项 | 推理模型响应中的一类结构化项目,可在兼容的后续请求中复用 |
prefix_mismatch |
GPT-6.2 相关诊断中的一个原因值,表示较早的前缀被改动,导致推理项被移除 |
| 仅追加 | 保留原有内容和顺序,只在末尾添加后续事件的历史维护方式 |
reasoning_tokens |
输出用量中的推理子项,用于观察推理消耗 |
x-request-id |
响应头中的请求标识,用于关联客户端响应与供应方日志 |
1. Responses API 推理成本为何涨在两处
1.1 第一条线:缓存读取减少
按 OpenAI《Prompt caching》的说明,提示缓存从请求开头开始匹配。只要早期某段内容被改写,从改动点往后的部分就无法再按缓存读取计费,会改按普通输入价计费。以 API易 价格总表中的 gpt-6.2-sol 短上下文标价为例,普通输入为每百万 Token 2 美元,缓存读为 0.10 美元,两者相差 20 倍。
这部分费用变化在 usage 中有对应字段:input_tokens 总量可能基本不变,但其中的 cached_tokens 会变少。只看总输入量是发现不了这个问题的,必须单独记录缓存读取量。
1.2 第二条线:推理项失去复用资格后的新输出
OpenAI 在 2026-11-17 的 API Changelog 中,把“编辑早期历史导致以 prefix_mismatch 为由移除推理项”标注为从 GPT-6.2 开始的行为。推理项被移除后,模型在后续轮次看不到之前的推理内容,可能需要重新推理,因此可能发生额外推理成本。
这条线反映在输出侧,表现为 reasoning_tokens 和总输出变多。它和缓存读取减少可能同时出现,但在 usage 中是两个独立的字段,排查时需要分开观察。
1.3 output_tokens 与 reasoning_tokens 的包含关系
根据 OpenAI《Counting tokens》,output_tokens 已经包含推理消耗,output_tokens_details.reasoning_tokens 只是其中的诊断分项。计算费用时,用 output_tokens 乘以输出单价即可。如果再把 reasoning_tokens 单独加一遍,就会重复计算。

2. 哪些前缀编辑动作会触发推理成本上升
2.1 会触发 prefix_mismatch 的常见操作
按 OpenAI《Keep the prefix unchanged》和《Reasoning models》的说明,以下操作属于改写前缀,在 GPT-6.2 上可能导致推理项被移除:
| 操作 | 典型代码场景 | 风险 |
|---|---|---|
| 重写旧消息 | 回头修正用户第 2 轮的措辞,或给旧消息补上时间戳 | 改写前缀 |
| 改写旧工具结果 | 为了省 Token,缩短早期工具返回的 JSON | 改写前缀(缩短也算改写) |
| 在相关推理项之前插入内容 | 把新检索到的资料插到历史中间 | 改写前缀 |
| 整项删除且其余内容不变 | 删除一条完整的旧消息 | 不触发该移除原因,缓存命中量仍可能变化 |
| 在推理项之后追加 | 按时间顺序添加新消息 | 不触发该移除原因 |
“缩短旧工具输出”看起来是在节省 Token,但它属于改写。只有删除完整的项目、并且其余项目保持不变时,才不会触发 prefix_mismatch。即便如此,缓存的匹配起点也可能变化,缓存读取量仍需实际测量。
2.2 版本、档位与模型家族切换的区别
这几类变化需要分开判断:
- 版本差异:OpenAI 明确说明,因
prefix_mismatch移除推理项是从 GPT-6.2 开始的行为。GPT-6.1 Sol 支持reasoning.context: all_turns,可以在兼容历史可用时渲染较早的推理。从 6.1 迁移到 6.2 时,原有的上下文维护方式需要重新验证。 - 推理档位:两代 Sol 都提供
low、medium、high、xhigh、max五档,6.2 Sol 会拒绝none。第三方文章 OrcaRouter 整理的做法是不在请求之间直接修改reasoning.effort,而是在input中追加一个configuration_update项。该文同时指出,包含此类项目的历史会被自动截断和/responses/compact拒绝。采用这种做法前,请以 OpenAI 官方文档为准。 - 模型家族切换与降级:按 OpenAI 说明,切换模型家族或改用能力较低的型号,也可能移除已有的推理项。这和
prefix_mismatch是不同的原因,统计时应分开归类。
2.3 GPT-6.2 顶层 instructions 的位置与计费
OpenAI《Using GPT-6.2》说明,GPT-6.2 的顶层 instructions 会追加在 input 之后,按未缓存输入计费。因此它适合放当前轮次的临时开发者提示,不适合放长期不变的大段系统设定。
需要长期复用的指令,应作为第一条 developer 消息放在 input 中,以便被缓存。如果要调整长期指令,在历史末尾追加一条新的 developer 消息,不要回头修改第一条。
3. 用对照请求隔离 Responses API 推理成本变化
3.1 对照组设计
固定模型、推理档位、工具定义和输入量,只改变历史维护方式这一个变量:A 组仅追加,B 组在早期改写一处内容。两组各跑多轮,并使用相同的任务集。
每次请求统一按下表记录。任务质量需要人工或评测脚本打分,因为费用下降不能以结果变差为代价。
| 字段 | 来源 | 用途 |
|---|---|---|
| 组别 | 自定义 | 区分仅追加组与改写组 |
cached_tokens |
usage.input_tokens_details |
观察第一条线 |
reasoning_tokens |
usage.output_tokens_details |
观察第二条线 |
output_tokens |
usage |
计算输出费用 |
| 延迟 | 客户端计时 | 推理增加通常伴随耗时变长 |
| 任务质量 | 人工或评测打分 | 排除以质量换费用的情况 |
x-request-id |
响应头 | 对账 |
3.2 仅追加的调用示例
下面的代码自己维护 input 历史,每轮只在末尾追加,同时把用量和请求 ID 写入日志:
import json, time
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url="https://api.apiyi.com/v1",
)
MODEL = "gpt-6.2-sol"
EFFORT = "medium" # 整个会话固定,不在轮次之间修改
# 稳定前缀:可复用的指令放在 input 第一条,之后不再修改
history = [{"role": "developer", "content": "你是代码审查助手,回答简洁。"}]
def ask(user_text, variant="append_only", log_path="usage_log.jsonl"):
history.append({"role": "user", "content": user_text})
t0 = time.time()
raw = client.responses.with_raw_response.create(
model=MODEL,
reasoning={"effort": EFFORT},
input=history,
store=False,
include=["reasoning.encrypted_content"], # 目标分组是否回传需先核验
)
resp = raw.parse()
latency = round(time.time() - t0, 2)
# 仅追加:本轮输出(含推理项)原样放回历史末尾
history.extend(item.model_dump(exclude_none=True) for item in resp.output)
u = resp.usage
record = {
"variant": variant,
"model": MODEL,
"effort": EFFORT,
"request_id": raw.headers.get("x-request-id"),
"response_id": resp.id,
"input_tokens": u.input_tokens,
"cached_tokens": getattr(u.input_tokens_details, "cached_tokens", 0),
"output_tokens": u.output_tokens,
"reasoning_tokens": getattr(u.output_tokens_details, "reasoning_tokens", 0),
"latency_s": latency,
}
with open(log_path, "a", encoding="utf-8") as f:
f.write(json.dumps(record, ensure_ascii=False) + "\n")
return resp.output_text
改写组复用同一个函数:在第 N 轮前修改 history[1] 的内容,并把 variant 设为 "early_rewrite",其余参数保持不变。
🚀 快速开始:搭建对照组时,可以通过 API易 apiyi.com 用同一个 API Key 切换
gpt-6.1-sol与gpt-6.2-sol。在同一套日志结构下,就能比较版本差异对缓存和推理用量的影响。
3.3 官方直连的辅助诊断
直连 OpenAI 时,可以把 prompt_cache_options.comparison_response_id 设为之前某次响应的 ID,然后读取返回的诊断原因和缓存 Token 数。响应中的 input_transformations 会列出哪些推理项被移除及原因,其中 prefix_mismatch 可以按 ID 对应到旧响应输出中的推理项。
# 仅用于 OpenAI 官方直连
resp = openai_client.responses.create(
model="gpt-6.2-sol",
input=history,
extra_body={"prompt_cache_options": {"comparison_response_id": prev_response_id}},
)
print(getattr(resp, "input_transformations", None))
这个诊断有两个限制:缓存诊断按尽力原则只报告第一处差异,而且无法确认模型是否真正复用了保留下来的推理。它能告诉你“推理项被移除了”,但不能告诉你“因此多花了多少”,费用仍需结合第 3.1 节的成对用量来判断。
3.4 通过 API易 调用时的注意事项
OpenAI 直连支持用 previous_response_id 续接会话状态。API易 的 Responses API 原生调用指南(docs.apiyi.com)正文称该链式方式不生效,但同页 FAQ 记录了 2026-09-02 实测可用。两处说法不一致,因此更稳妥的基线是:自己管理 input 历史,与 3.2 节的写法一致。
状态续接、加密推理项的回传以及上述诊断字段,实际表现可能因令牌分组而异,需要在目标分组上单独验证。如果诊断字段不可用,成对的用量日志仍然可以作为判断依据。

4. 用数字拆解 Responses API 推理成本并落实改造
4.1 估算使用的标价
以下为 API易 apiyi.com 价格总表中的短上下文默认标价(2026-11-20 15:17 北京时间更新,单位为美元/百万 Token)。实际扣费还要看模型所在的令牌分组和充值成本,需要分别核对。
| API易模型 ID | 普通输入 | 缓存读 | 输出 |
|---|---|---|---|
gpt-6.2-sol、gpt-6.1-sol |
$2 | $0.10 | $10 |
gpt-6-sol |
$2 | $0.20 | $10 |
gpt-6.2-astra |
$8 | $0.40 | $40 |
长上下文需要单独计算。gpt-6.2-sol 的输入超过 272,000 Token 时,API易 当前总表列出的输入价为 $3,OpenAI 官方 Standard 模型页列出的是 $4;gpt-6.1-sol 的长上下文输入价在两边均为 $4。长上下文档位的缓存价和输出价,请按各自渠道的实时计费规则核对。
4.2 两次请求的拆账算例
假设条件:短上下文,API易 Sol 默认标价,两次请求的输入都是 12,000 Token,没有单列的缓存写入,也没有工具费。以下数字全部为假设,不是实测数据。
| 项目 | 保留前缀 | 改写前缀 |
|---|---|---|
| 缓存读 | 9,000 × $0.10/M = $0.0009 | 3,000 × $0.10/M = $0.0003 |
| 普通输入 | 3,000 × $2/M = $0.0060 | 9,000 × $2/M = $0.0180 |
| 总输出 | 1,000 × $10/M = $0.0100 | 1,600 × $10/M = $0.0160 |
| 合计 | $0.0169 | $0.0343 |
两次相差 $0.0174,可以拆成两部分:$0.0114 来自 6,000 个输入 Token 从缓存价变为普通输入价,即 6,000 × ($2 − $0.10) / 1,000,000;$0.0060 来自多出的 600 个总输出 Token。这两部分分别对应第 1 节的两条线。实际差额要以你自己的 usage 为准。如果存在单列的缓存写入,应按普通输入、缓存读、缓存写三个互斥类别分别计算。
4.3 用请求 ID 对账
估算之后,再核对实际扣费。在 API易 apiyi.com 的消费日志中,用响应头里的 x-request-id 找到对应的 type=2 记录,用 quota ÷ 500,000 换算出实际扣费的美元数。同时记录模型、令牌分组、调用时间段,以及该次请求的输入和输出用量。
目前还没有公开的 API易 同分组、同任务的前缀对照账单。因此,评估改造效果时,应该以你自己的成对请求日志和扣费记录为准。
💰 对账建议:把第 3.2 节日志中的
request_id与消费日志逐条关联,得到“用量字段 → 估算金额 → 实际扣费”三列。哪一列出现偏差,就说明问题出在哪个环节。
4.4 三项改造
- 固定工具定义和稳定指令:工具定义保持原有顺序,不在会话中途修改;长期指令放在
input的第一条 developer 消息中,当前轮次的临时提示可以用 GPT-6.2 的顶层instructions,但要接受它按未缓存输入计费。 - 按顺序追加上下文:新消息、新工具结果和新检索资料都追加到末尾。确实需要精简时,删除完整项目,不要改写其中的内容。
- 单独测试长上下文和版本迁移:长上下文超过 272,000 输入 Token 后适用另一档价格,应单独建立对照组;从
gpt-6.1-sol迁移到gpt-6.2-sol,或调整档位、切换模型家族时,先用第 3 节的对照方法验证,再全量上线。
完成以上改造后,可以这样检验效果:在同一任务集上重新运行两组对照。如果仅追加组的 cached_tokens 占比稳定,reasoning_tokens 没有异常升高,按请求 ID 核对的实际扣费也与估算一致,就说明这部分费用已经得到控制。
参考资料
- OpenAI《Keep the prefix unchanged》:前缀保持与
prefix_mismatch诊断- 链接:
developers.openai.com/api/docs/guides/keep-prefix-unchanged
- 链接:
- OpenAI《Reasoning models》:推理项复用与整项删除的例外
- 链接:
developers.openai.com/api/docs/guides/reasoning
- 链接:
- OpenAI《Prompt caching》与《Counting tokens》:缓存匹配规则与用量字段
- 链接:
developers.openai.com/api/docs/guides/prompt-caching
- 链接:
- OpenAI API Changelog(GPT-6.2 条目,2026-11-17)
- 链接:
developers.openai.com/api/docs/changelog
- 链接:
- OrcaRouter《GPT-6.2 Preserved Reasoning》:第三方整理的仅追加改写做法
- 链接:
orcarouter.ai/blog/gpt-6-2-preserved-reasoning
- 链接:
- API易《模型价格总表》
- 链接:
docs.apiyi.com/models
- 链接:
- API易《日志查询 API》
- 链接:
docs.apiyi.com/api-capabilities/log-query
- 链接:
- API易《OpenAI Responses API 原生调用指南》
- 链接:
docs.apiyi.com/api-capabilities/openai/native
- 链接:
作者:API易技术团队
技术交流:欢迎在 API易 网站首页联系我们,更多资料可访问 docs.apiyi.com 文档中心
