推理模型成本優化:用 effort 檔位平衡效果與開銷的 4 步對比法

推理模型成本優化:用 effort 檔位平衡效果與開銷的 4 步對比法

本文用 GPT-6.1 Sol 與 GPT-6.2 Sol 的遷移、客服和代碼案例,說明如何先固定業務驗收條件,再選出能穩定達標的推理檔位,並覈算每個達標任務的成本。

先說結論:調檔時應比較的是“每個達標任務花多少錢、多少時間”,單次調用的標價只是其中一項。在已公開的小樣本實測裏,GPT-6.2 Sol 的 low 在客服政策題和一組代碼題上都達到了與 medium 相同的通過數,而且耗時更短。代碼題中,low 的標價折算成本約爲 medium 的七成。這個結論成立需要兩個條件:你的任務與測試任務足夠相似,並且驗收門檻不只看通過率,還檢查虛構鏈接、金額字段和返工。跨資料衝突、工具依賴複雜或容易漏約束的任務,仍應單獨驗證 medium 及以上檔位。

reasoning-model-cost-optimization-effort-levels-zh-hant-image-0

推理模型 effort 檔位對比速覽

下表彙總本文會用到的幾組證據,每一行都註明了來源和口徑。不同來源的數字不能直接相加或混排。

對比維度 GPT-6.1 Sol GPT-6.2 Sol 差異意味着什麼
可選檔位(OpenAI 文檔) low、medium、high、xhigh、max 同五檔,拒絕 none 從可設 none/minimal 的型號遷移時,需要改起步檔位
API易 短上下文標價(2026-11-20 總表,美元/百萬 Token) 輸入 $2、緩存讀 $0.10、輸出 $10 同左 短上下文下兩代價格一致,成本差異主要來自用量
超過 272,000 輸入 Token 的輸入價 API易 與 OpenAI Standard 均列 $4 API易 列 $3,OpenAI Standard 列 $4 長輸入場景下,渠道之間會出現價差
eesel 客服 15 工單(low / medium) 15/15、3.8 秒;15/15、3.8 秒 15/15、3.2 秒;15/15、3.6 秒 通過率相同,檔位之間成本差異很小
VulcanBench 23 道代碼題(low / medium) 20/23;22/23(歷史批次) 23/23;23/23 6.2 Sol 低檔已達標,跨版本的數字來自不同批次
Artificial Analysis Index(OrcaRouter 轉引,low / medium) 35;46 41;53 第三方綜合指數,檔位標籤由該評測自行映射

reasoning-model-cost-optimization-effort-levels-zh-hant-image-1

正文按以下順序展開:第 1 節確認能否接入、怎麼計價,第 2 節看同任務的實測結果,第 3 節給出遷移和驗收步驟,第 4 節處理多輪會話中途調檔的問題。如果你已經確認過模型路由和價格,可以直接從第 2 節讀起。

推理 effort 檔位相關術語 To Know

術語 解釋
reasoning.effort Responses API 中用來設定模型思考強度的字段
推理 Token 模型爲得出答案而消耗的推理用量。它包含在計費的 output_tokens 裏,需要與用戶可見的輸出區分開
low / medium 兩個推理檔位。同一檔位換到新版本後,仍需重新驗收
緩存讀取單價 只適用於命中可複用前綴的那部分輸入,無法用總 Token 數直接推算
請求前綴 當前消息之前已經存在的上下文。修改早期歷史會影響緩存和推理項的複用
configuration_update 在支持該功能的 Responses 會話裏,用於調整後續配置的輸入項
驗收門檻 對政策正確性、功能通過或返工水平設定的最低可接受標準
每個達標任務成本 整個試驗的調用、重試、工具和人工返工成本,除以達標任務數

1. 推理模型成本優化前:何時值得調 effort 檔位

1.1 兩代 Sol 在 API易 的接入情況

根據 API易 平臺動態,GPT-6.1 Sol 於 2026-09-30 上線,GPT-6.2 Astra 與 Sol 於 2026-11-18 公告上線。2026-11-20 的價格總表顯示,兩款 Sol 都同時提供 responses 和 chat 兩種路由,涉及的分組有 CodexResponses、Codex_Reverse、Default、SVIP。賬戶實際能調用哪些能力,以令牌所在分組爲準。

按 OpenAI 文檔,兩代 Sol 都支持 Chat Completions 和 Responses,但工具調用必須走 Responses,檔位通過 reasoning.effort 設置。所以只要業務裏有訂單查詢、代碼執行這類工具環節,評測和上線都應統一使用 Responses 路由,避免兩條路由的行爲差異混進對比結果。

1.2 兩套價格口徑:API易 標價與上游標準價

模型 ID(API易 總表,2026-11-20) 普通輸入 緩存讀 輸出 可用平臺
gpt-6.2-sol $2 $0.10 $10 API易 apiyi.com、OpenAI 官方
gpt-6.1-sol $2 $0.10 $10 API易 apiyi.com、OpenAI 官方
gpt-6-sol $2 $0.20 $10 API易
gpt-6.2-astra $8 $0.40 $40 API易

上表是短上下文的默認標價,單位爲美元/百萬 Token。OrcaRouter 整理的上游價目卡對兩代 Sol 列出相同的輸入、緩存讀和輸出價格,並另外列出緩存寫入 $2.50。長上下文需要單獨覈對:gpt-6.2-sol 輸入超過 272,000 Token 時,API易 當前列 $3,OpenAI 官方 Standard 列 $4;gpt-6.1-sol 兩邊均爲 $4。長檔的緩存價和輸出價,請以各渠道的實時計費規則爲準。

1.3 成本要從真實響應和賬單裏讀

標價只能用來估算。下面用一組假設算例說明成本如何拆分。假設每輪輸入 12,000 Token,沒有緩存寫入和工具費:

  • 保留前綴:緩存讀取 9,000、總輸出 1,000,估算約 $0.0169。
  • 修改了前綴:緩存讀取降到 3,000、總輸出升到 1,600,估算約 $0.0343。

兩者的差額中,約 $0.0114 來自 6,000 個輸入 Token 從緩存價變回普通價,約 $0.0060 來自額外的 600 個輸出 Token。這是假設數據,實際差額以 usage 爲準。如果存在單列的緩存寫入,應把普通輸入、緩存讀、緩存寫作爲三個互斥類別分別計算。

實際扣費的核對方法:用響應頭裏的 x-request-id 關聯 API易 消費日誌中 type=2 的記錄,用 quota ÷ 500,000 換算出實際扣費的美元值,同時記錄模型、令牌分組、調用時間窗口、輸入輸出用量和重試次數。

reasoning-model-cost-optimization-effort-levels-zh-hant-image-2

下面是一個最簡調用示例,同時讀出診斷所需的用量字段:

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1"  # API易 OpenAI 兼容接口
)

resp = client.responses.create(
    model="gpt-6.2-sol",
    reasoning={"effort": "low"},
    input=[{"role": "user", "content": "根據退款政策判斷工單 #1024 是否可退"}],
)

u = resp.usage
print(resp.output_text)
print("輸入:", u.input_tokens, "緩存命中:", u.input_tokens_details.cached_tokens)
print("總輸出:", u.output_tokens, "其中推理:", u.output_tokens_details.reasoning_tokens)

🚀 快速開始:建議先在 API易 apiyi.com 用新用戶免費額度跑通上面的示例,確認目標分組能正常返回 cached_tokens 和 reasoning_tokens,再開始批量評測。

2. 同任務對比:low 與 medium 檔位的實測結果

2.1 客服工單:低檔帶來的收益很小

eesel 的測試者在 2026-11-18 通過 Responses API 對兩代 Sol 各測了 low 和 medium 兩檔,共 60 次調用。每種配置都覆蓋同樣的 15 個工單,內容包括退款、物流查詢和訂單工具失敗,由人工按一份虛構的 SaaS 政策打分。

配置(eesel,15 工單) 通過 平均耗時 標價折算/千件
GPT-6.1 Sol low 15/15 3.8 秒 $1.32
GPT-6.1 Sol medium 15/15 3.8 秒 $1.35
GPT-6.2 Sol low 15/15 3.2 秒 $1.41
GPT-6.2 Sol medium 15/15 3.6 秒 $1.42

在這組數據裏,low 和 medium 每千件只差幾美分,選擇檔位的依據更多是延遲,而不是費用。另外,按實測用量折算,GPT-6.2 Sol 在這組客服題上反而比 6.1 Sol 略貴。更重要的一點是,儘管四種配置的通過率都是滿分,作者仍發現 6.2 Sol 會輸出工具響應裏並不存在的物流鏈接。這說明客服驗收如果只看“答對政策”,就會漏掉這類問題,鏈接和字段的來源必須單獨檢查。這些證據僅適用於這套工單、這套評分標準和 OpenAI 測試環境。

2.2 代碼任務:低檔的單題成本值得實測

VulcanBench 在 2026-11-19 用 Codex 對 GPT-6.2 Sol 在同一套 23 題測試集上逐檔運行,共 115 次。下表中的金額是根據運行收據按 API 標價折算的,不是 API易 賬戶的實際結算。

配置(VulcanBench,23 題) 通過 平均耗時 標價折算/題 綜合分
GPT-6.2 Sol low 23/23 2.8 分鐘 $0.23 88.44
GPT-6.2 Sol medium 23/23 4.4 分鐘 $0.33 88.94
GPT-6.2 Sol max — 11.3 分鐘 $0.55 88.74
GPT-6.1 Sol low(歷史批次) 20/23 6.9 分鐘 $0.31 —
GPT-6.1 Sol medium(歷史批次) 22/23 10.6 分鐘 $0.40 —

只看 GPT-6.2 Sol 這一組:low 和 medium 的通過數相同,單題成本約低三成,耗時也更短;max 的綜合分並沒有超過 medium。跨版本對比需要謹慎:6.1 Sol 的數據來自同一題集的歷史評測,屬於不同的測試批次。綜合分是代碼質量評分,和測試通過率是兩個指標,不能互相替代。

OrcaRouter 轉引的 Artificial Analysis Index v5.0.1(2026-11-20 讀取)給出了另一個視角:low 檔下 6.2 Sol 爲 41 分、每任務 $0.18,6.1 Sol 爲 35 分、$0.16;medium 檔下分別爲 53 分、$0.41 和 46 分、$0.36。這份綜合榜單的檔位標籤是評測方自己的映射方式,你使用的框架不一定採用同樣的映射。

💡 選擇建議:以上兩項實測說明,通過線、重試率和人工返工都可能改變“最划算的檔位”,但它們都不是你自己業務的賬單。建議在 API易 apiyi.com 上,用同一個分組、同一批樣本複測,再做決定。

3. 推理模型成本優化的遷移順序與驗收門檻

3.1 先保留基線,再調整檔位

按 OpenAI《Using GPT-6.2》的建議,遷移時一次只改一個變量:

  1. 現用 6.1 Sol low:先換成 6.2 Sol low 做對照,再單獨測試 medium。
  2. 現用 6.1 Sol medium:先換模型但保留 medium,驗收通過後,再用同一批任務對比 low。
  3. 新接入:從 medium 起步。
  4. 從可設 none 或 minimal 的型號遷移:GPT-6.2 Sol 從 low 開始測試。

對於約束清晰的簡單任務,可以從 low 開始驗證;對於複合任務,根據結果逐級升檔。評測期間要固定提示詞、工具定義、分組和測試樣本。同時按官方說明清理不再適用的參數,例如 Responses 請求裏去掉 temperature、top_p、top_logprobs。

3.2 按場景定義驗收門檻

場景 驗收門檻 何時考慮升檔
常規客服 政策一致性、金額字段正確、升級人工的觸發條件;鏈接和單號必須來自工具返回 涉及跨政策衝突或多工具串聯時
代碼修改 測試通過、關鍵功能完整、代碼審查返工量 低檔通過率下降或返工明顯增加時
短內容 約束遵守、事實字段、人工修改時長 出現漏約束或事實錯誤時

每個達標任務成本的計算方式是:把調用、重試、工具和人工返工的費用加總,再除以達標任務數。只要 low 達到約定門檻就可以選 low;如果 low 需要多次重試或人工補救,賬面上的便宜可能被抵消。

💰 成本優化:做檔位對照時,可以在 API易 apiyi.com 爲評測單獨創建令牌,日誌就能按令牌和模型直接篩出,方便覈算整批試驗的真實花費。

4. 多輪會話中途調整 effort 檔位

4.1 用 configuration_update 調檔並保留前綴

在支持該功能的 OpenAI HTTP Responses 單代理會話中,請求級的 reasoning.effort 保持初始值不變,把下面這一項放在下一條用戶消息之前:

{"type": "configuration_update", "reasoning": {"effort": "medium"}}

這個設置會一直生效,直到下一次更新。這樣做的好處是不需要改寫早期歷史,請求前綴保持不變。按 OpenAI 文檔,從 GPT-6.2 開始,編輯早期歷史可能觸發 prefix_mismatch,導致已有的推理項被移除;切換模型家族或降到較低能力的型號,也可能移除推理項。改寫前綴的代價有兩部分:緩存讀取可能減少,丟失可用推理項後還可能產生新的推理輸出。按官方說明,刪除完整的項目並保持其餘項目不變,或在推理項之後追加新項目,不會觸發這一移除,但緩存命中量仍可能變化。另外,GPT-6.2 的頂層 instructions 追加在 input 之後,按未緩存輸入計費。

4.2 上下文壓縮與 API易 路由的注意事項

使用服務端 context_management 時,更新後的配置可以延續。如果把含有舊 configuration_update 的歷史直接交給獨立的 /responses/compact 端點,請求會被拒絕;正確做法是按官方說明先把配置項分離出來,壓縮完成後再追加一條最新配置。

在 API易 上,目前穩妥的做法是自己管理 input 歷史,不依賴 previous_response_id。原因是 API易 原生調用指南對這一點的記載前後不一致:正文說鏈式續接不生效,FAQ 又記錄 2026-09-02 曾實測可用。API易 文檔目前也沒有列出 configuration_update 在各分組的驗證結果。因此,這類特有配置、加密推理項回傳和緩存診斷字段,都應先在目標渠道用短會話單獨驗證,確認可用後再接入正式工作流。

🎯 技術建議:可以先在 API易 apiyi.com 的 Responses 路由上跑一組兩輪短會話,對比“僅追加”和“改寫前綴”兩種樣本的 cached_tokens、reasoning_tokens 和耗時,確認行爲後再決定中途調檔的實現方式。

最後一句話:選擇檔位的依據,應該是在固定驗收門檻下的每個達標任務成本。在 API易 apiyi.com 上用自己的樣本和賬單跑一輪對照,比任何榜單都更能說明問題。

參考資料

  1. OpenAI《Using GPT-6.2》:遷移與起步檔位建議
    • 鏈接: developers.openai.com/api/docs/guides/latest-model
  2. OpenAI《Reasoning models》:configuration_update 與推理項複用
    • 鏈接: developers.openai.com/api/docs/guides/reasoning
  3. OpenAI《Compaction》:上下文壓縮規則
    • 鏈接: developers.openai.com/api/docs/guides/compaction
  4. OpenAI《Keep the prefix unchanged》:前綴與緩存診斷
    • 鏈接: developers.openai.com/api/docs/guides/keep-prefix-unchanged
  5. eesel AI《GPT-6.2 Sol: what’s new, pricing, benchmarks》:客服工單實測,2026-11-18
    • 鏈接: eesel.ai/blog/gpt-6-2-sol
  6. VulcanBench《GPT-6.2 Sol across effort levels》:代碼題逐檔評測,2026-11-19
    • 鏈接: vulcanbench.com/benchmarks/swe-v4-gpt62-sol-v331.html
  7. OrcaRouter《GPT-6.2 vs GPT-6.1 Sol》:價目卡與綜合指數轉引,2026-11-20
    • 鏈接: orcarouter.ai/blog/gpt-6-2-vs-gpt-6-1-sol
  8. API易《模型價格總表》:數據更新於 2026-11-20
    • 鏈接: docs.apiyi.com/models

作者: APIYI 技術團隊
技術交流: 歡迎在 API易 apiyi.com 首頁聯繫我們,更多接入說明可查閱 docs.apiyi.com 文檔中心

延伸閱讀

Similar Posts