|

Gemini、Claude、GPT 都開始按需加載工具:三家 Tool Search 機制的 6 處關鍵不同

Gemini、Claude、GPT 都開始按需加載工具:三家 Tool Search 機制的 6 處關鍵不同

三家的 Tool Search 解決的是同一個問題,但實現路線差別很大。 三家都讓模型在開始時只看到工具的簡要線索,需要調用時再加載完整參數 Schema。區別主要在三處:Gemini 有服務端和客戶端兩種檢索模式,客戶端檢索可以引入新工具;Claude 公開了 Regex 和 BM25 兩種服務端搜索方式,並通過 tool_reference 在已聲明的工具集合內做發現;GPT 用 namespace 給工具分組,客戶端模式可以通過 tool_search_output 動態注入新工具。選型時要看工具庫是否固定、是否變化頻繁,以及團隊現有的 API 架構。

您讀完此文能瞭解到什麼?

  • 三家 Tool Search 分別屬於哪個 API、用什麼字段啓用。
  • 模型初始上下文裏保留的內容有什麼不同,以及 short_description、tool_reference、namespace 各起什麼作用。
  • 工具檢索和實際函數調用的事件鏈怎樣組成,適配時容易在哪裏出錯。
  • 哪一家支持在對話中加入初始請求裏沒有的新工具。
  • 面對訂單與庫存這類企業 Agent,如何根據工具庫結構做選擇。

索引:正文先交代三家發佈時間和共同思路,再分別拆解 Gemini、Claude、GPT 的檢索機制與原生字段,然後用一張總表對照八個維度,並以同一個訂單與庫存 Agent 演示三條技術路線。最後的分析部分給出選型原則,並討論跨模型網關在協議適配上要注意的問題。

gemini-claude-gpt-tool-search-comparison-zh-hant-image-0


Tool Search 相關概念 To Know

概念 簡要解釋
工具目錄 供檢索的業務工具集合,包含名稱、描述、參數定義和權限信息
Tool Search 按當前任務檢索所需工具,並按需導入其完整定義的能力
defer_loading 三家都採用的字段,標記工具延遲加載完整定義
Regex 用正則表達式匹配工具名稱、描述或參數線索
BM25 按查詢詞與文本的相關性給搜索結果排序的經典算法
tool_reference Claude 用來引用已聲明工具的內容塊,隨後由 API 展開爲完整定義
namespace OpenAI Responses API 中把相關函數按業務能力歸組的聲明
動態工具注入 應用把初始請求中未聲明的工具定義交給模型繼續使用
tool_search_output OpenAI 客戶端檢索時回傳匹配工具聲明的響應項
遠程 MCP 通過 Model Context Protocol 提供可發現、可執行工具的遠端服務
緩存前綴 多次模型調用之間保持一致、可以複用緩存的輸入開頭部分

Tool Search 影響速覽

  • Agent 開發者:工具多了以後不必再把所有 Schema 一次塞進上下文,但三家的請求體和返回事件都不同,跨模型 Agent 需要分別實現解析邏輯。
  • 企業平臺與工具目錄維護者:工具命名、簡短描述和分組方式開始直接影響檢索效果,工具目錄本身成了需要設計的資產。
  • 成本與運維負責人:Tool Search 不一定省錢。Google 官方算例同時給出了節省和增加 Token 的兩種情形,是否啓用要以實測賬單爲準。

客觀事實:三家 Tool Search 的發佈脈絡與機制

爲什麼 Gemini、Claude、GPT 都提供 Tool Search

當一個 Agent 同時接入 CRM、訂單、庫存、物流、工單和多個 MCP 服務器時,工具聲明本身就會佔掉大量上下文。Google 文檔提到,幾十個函數聲明就可能佔用數萬個 Token。Anthropic 舉過一個例子:GitHub、Slack、Sentry、Grafana、Splunk 五個 MCP 服務器共 58 個工具,僅工具定義就約 55,000 Tokens。

三家的發佈時間線如下:Anthropic 在 2025 年 11 月 24 日推出 Tool Search Tool;OpenAI 在 2026 年 3 月 5 日隨 GPT-5.4 推出 API Tool Search;Google 在 2026 年 11 月 19 日以預覽版形式推出 Gemini API 的 Tool Retrieval。三家的基本思路一致:模型先知道有哪些能力,真正要用時再讀取完整參數定義。

三家各自公佈過性能數據,但測試條件完全不同,不能拿來排名。Anthropic 的例子中,初始上下文從約 77,000 Tokens 降到約 8,700 Tokens,內部 MCP 評估裏 Claude Opus 4 的工具選擇準確率從 49% 提升到 74%。OpenAI 在 MCP Atlas 的 250 項任務、36 個 MCP 服務器上測得總 Token 降低 47%,準確率保持不變。Google 目前只給出假設性算例:200 個工具時約減少 85.6%,10 個工具配合長上下文時反而增加約 36.5%。

Gemini Tool Search:服務端與客戶端兩種檢索模式

Gemini 的 Tool Retrieval 依託 Interactions API,要求使用 v1beta,舊的 generateContent 不支持。服務端模式的啓用方式是在 tools 中加入 {"type": "tool_search"},再給低頻的 function 或 mcp_server 設置 defer_loading: true。模型起初只看到延遲工具的名稱和 short_description。Google 早期測試顯示,每個工具條目平均約 26 Tokens。沒有配置簡短描述時,會用完整 description 的第一句代替。

有一點容易誤解:服務端模式下,開發者仍要提交完整工具定義。即使使用 previous_interaction_id,每次請求也要重新發送完整的 tools 數組。延遲加載只是不讓完整 Schema 提前進入模型上下文。此外,已加載的 Schema 在當前會話中無法卸載;單個請求最多聲明一個 tool_search;服務端和客戶端檢索不能在同一請求中混用。

維度 服務端檢索 客戶端檢索
execution server(默認) client
檢索器 Gemini API 負責 開發者自建
需提前聲明工具庫 需要 不需要
defer_loading 適用 不適用
額外往返 無額外客戶端往返 每次搜索多一次往返
典型場景 大型、相對固定的工具集合 私有 Tool Registry、多租戶、動態工具

客戶端模式下,模型調用開發者定義的搜索函數(如 search_tool_registry),應用在 function_result.result 中返回匹配的完整工具聲明對象。這種方式可以在對話過程中引入原始請求沒有聲明過的工具,比如用戶在會話中臨時連接了一個新的 SaaS 服務。

Claude Tool Search:Regex、BM25 與 tool_reference

Claude 的 Tool Search Tool 屬於 Messages API,服務端提供兩種搜索工具類型:tool_search_tool_regex_20251119 由模型生成正則表達式,適合命名規律強的工具庫;tool_search_tool_bm25_20251119 由模型生成自然語言查詢,適合按能力描述來發現工具。兩種方式都會檢索工具名稱、描述、參數名稱和參數描述。Claude 的參數字段是 input_schema,這一點和另外兩家的 parameters 不同。

一次典型檢索的事件鏈是:Claude 先發起 server_tool_use 調用內建搜索工具,API 返回 tool_search_tool_result,結果中包含 tool_reference,再由 API 展開爲完整定義,最後模型產生業務層面的 tool_use。Anthropic 特別說明,內建搜索工具的 srvtoolu_... 標識不需要開發者回傳 tool_result,應用只需執行實際的業務 tool_use。

Claude Tool Search 規則 官方規定
單請求延遲工具上限 10,000 個
單次搜索默認返回 最多 5 個,可通過 limit 調整
Regex 查詢長度 最多 200 字符
BM25 查詢長度 最多 500 字符
不支持的模型 Claude Opus 4.1 及更早模型
緩存約束 defer_loading: true 的工具不能設置 cache_control

開發者也可以用 embedding 等自有算法實現自定義搜索,但返回的仍然是 tool_reference,被引用的工具必須已經在頂層 tools 中聲明。所以 Claude 的設計更接近“從預先聲明的工具庫裏找出需要的工具”。MCP 方面,Claude 通過 MCP Connector 的 mcp_toolset 配置延遲策略,可以在 default_config 中統一設置,也可以在 configs 中逐個工具設置。

GPT Tool Search:Namespace 與動態工具注入

OpenAI 的 Tool Search 位於 Responses API,由 GPT-5.4 及更新的兼容模型支持,同樣通過 tool_search 和 defer_loading 啓用。它的特色是 namespace:開發者可以把相關函數按 crm、billing 等業務域分組,模型先根據命名空間的名稱和描述判斷哪類能力相關,需要時再展開組內的延遲函數。這樣工具分組成了 API 層面的結構,而不只是命名約定。

服務端模式的事件鏈是 tool_search_call → tool_search_output → function_call → 應用返回 function_call_output。客戶端模式下,應用收到 tool_search_call 後自行查詢工具目錄,再用相同的 call_id 返回 tool_search_output,其 tools 字段包含匹配的完整工具聲明,模型在下一輪才調用這些函數。官方文檔支持在這裏返回原始請求未聲明過的工具,同時要求開發者嚴格校驗動態 Schema,只暴露可信的工具定義。

在緩存方面,OpenAI 會把新發現的工具定義追加到上下文後部,以減少對已有緩存前綴的影響。MCP 方面需要注意:Responses API 的 Tool Search 支持 MCP 工具按需發現,Agents API 則在模型和提供方支持時由運行時自動接入工具發現。官方明確提醒,兩套配置不能直接互相套用。

下面是一個示意性的 Responses API 請求,演示延遲加載的基本結構。字段以 OpenAI 官方文檔爲準:

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1"  # API易 OpenAI 兼容入口
)

tools = [
    {"type": "tool_search"},
    {
        "type": "function",
        "name": "inventory_get_stock",
        "description": "Inventory: check stock level by SKU.",
        "defer_loading": True,
        "parameters": {
            "type": "object",
            "properties": {"sku": {"type": "string"}},
            "required": ["sku"]
        }
    }
]

resp = client.responses.create(
    model="gpt-5.4",
    input="訂單 A-1042 還沒發貨,幫我查一下 SKU-88 的庫存。",
    tools=tools
)
for item in resp.output:
    print(item.type)  # 預期可見 tool_search_call / function_call 等事件
查看客戶端檢索與動態注入的示意代碼
import requests

BASE_URL = "https://api.apiyi.com/v1"  # 經 API易 轉發 Responses API 請求
HEADERS = {"Authorization": "Bearer YOUR_API_KEY"}

def search_registry(query: str) -> list:
    """在企業私有工具目錄中檢索,並按用戶權限過濾(示意)"""
    return [{
        "type": "function",
        "name": "warehouse_schedule_shipment",
        "description": "Warehouse: schedule a new shipment date.",
        "parameters": {
            "type": "object",
            "properties": {
                "order_id": {"type": "string"},
                "date": {"type": "string"}
            },
            "required": ["order_id", "date"]
        }
    }]

def handle(output_items: list) -> list:
    follow_ups = []
    for item in output_items:
        if item["type"] == "tool_search_call":
            query = item.get("arguments", {}).get("query", "")
            follow_ups.append({
                "type": "tool_search_output",
                "call_id": item["call_id"],      # 與檢索調用使用相同 call_id
                "tools": search_registry(query)  # 可包含初始請求未聲明的工具
            })
    return follow_ups
# 注意:動態返回的 Schema 務必先做校驗,只暴露可信工具

🚀 快速驗證建議:在接入真實業務前,可以先用 API易 apiyi.com 的統一 Key 分別調用 GPT、Claude、Gemini,把同一個工具目錄在三家各跑一遍,確認事件結構能被你的解析層正確識別,再決定主力方案。

gemini-claude-gpt-tool-search-comparison-zh-hant-image-1

上圖中的事件名稱均爲各家原生字段。需要逐家實測事件流的讀者,可以通過 API易 apiyi.com 用同一套測試腳本切換模型來對照。

三家 Tool Search 機制集中對比

gemini-claude-gpt-tool-search-comparison-zh-hant-image-2

維度 Gemini Claude GPT
所屬 API Interactions API(v1beta) Messages API Responses API
檢索方式 服務端(算法未披露)/ 客戶端 Regex / BM25 / 自定義搜索 服務端 / 客戶端
初始上下文保留 名稱 + short_description 搜索工具 + 非延遲工具 延遲工具或 namespace 摘要
工具組織 命名約定 + 簡短描述 名稱、描述、參數均可被檢索 namespace 分組
參數字段 parameters input_schema parameters
客戶端檢索 支持 自定義搜索返回 tool_reference 支持(tool_search_output)
動態加入新工具 客戶端模式支持 引用的工具須已在頂層聲明 客戶端模式支持,需校驗 Schema
MCP 集成 mcp_server + defer_loading mcp_toolset 的 default_config / configs Responses 與 Agents 規則不同
緩存及計費 無獨立功能費;關注 total_tool_use_tokens 不單獨收費;延遲工具不可設 cache_control 新工具追加到後部以保護緩存前綴

💡 選擇建議:上表只對比可覈驗的接口規則。實際效果取決於你的工具庫和對話長度,建議藉助 API易 apiyi.com 的多模型統一入口做小樣本 A/B 測試,再結合各家賬單字段覈算成本。


分析判斷:Tool Search 選型的適配條件

用訂單與庫存 Agent 看三條技術路線

設想這樣一個業務需求:用戶查詢訂單狀態,發現商品還沒發貨,接着查詢庫存,再判斷能否安排新的發貨日期。系統裏有 CRM、訂單、庫存、倉庫調度、物流、退款、賬單、通知、審批九類工具,每類又有多個函數。

  • Gemini 路線:把常用的訂單查詢直接加載,庫存、倉庫調度等長尾工具設爲延遲加載,並寫好 short_description,由服務端檢索挑出 get_inventory 的 Schema。如果倉庫調度工具按租戶動態開通,就改用客戶端檢索,從私有 Registry 中返回。
  • Claude 路線:如果工具命名規整(如 inventory_*、warehouse_*),Regex 能精確命中;如果用戶說的是“看看還能不能補貨”這類口語,BM25 更合適。最終由 tool_reference 展開爲可調用的 tool_use。
  • GPT 路線:按 crm、inventory、logistics 建立 namespace,模型先判斷涉及庫存和物流兩個域,再展開組內的函數。臨時接入的新物流商,可以通過客戶端 tool_search_output 注入。

這個場景只用來說明機制差異,不代表三家的實測成功率或延遲。

四條面向開發者的選擇原則

  1. 工具庫大而固定:優先看服務端檢索能力。三家都能覆蓋,但要注意 Gemini 每次請求都要重發完整工具數組,Claude 單請求延遲工具上限爲 10,000 個。
  2. 需要顯式控制搜索策略:Claude 公開的 Regex 和 BM25 是唯一明確披露算法的方案,適合想按命名規則精確命中的團隊。Gemini 和 GPT 的服務端算法沒有披露,不應推斷它們與 Claude 相同。
  3. 工具庫頻繁變化或需要按用戶權限過濾:重點看客戶端動態注入。Gemini 和 GPT 的客戶端模式都能引入新工具;Claude 的自定義搜索只能引用已聲明的工具,需要在發請求前組裝好候選集。
  4. 工具規模小:Google 的算例顯示,10 個工具配合 30,000 Tokens 長上下文時,Token 用量反而增加約 36.5%。Google 建議少於約 20 個穩定工具時繼續靜態加載,這一點對另外兩家也有參考意義,但仍需各自實測。

跨模型網關的協議適配問題

做跨模型 Agent 的團隊最容易踩的坑,是把“能調用這個模型”等同於“這個模型的 Tool Search 能用”。可以把能力拆成四層:模型訪問、協議端點(Interactions / Messages / Responses)、工具聲明字段(tool_search、defer_loading、namespace、MCP 配置)、執行與狀態管理(檢索事件、函數結果、signature、會話歷史)。模型接入成功只能說明第一層沒問題。

尤其要注意 Gemini 的一條規則:在 store=false 的無狀態會話中,tool_search_call、tool_search_result 及其 signature 都不能修改或刪除,否則會返回 HTTP 400。這意味着網關不能隨意壓縮或重寫歷史消息。把三家抽象成統一的 Tool Search 接口,需要在 Agent 框架層面維護一張事件映射表,不能指望改個 Base URL 就讓同一份請求體通用。

🎯 技術建議:通過 API易 apiyi.com 這類聚合平臺接入多家模型時,建議先用小流量確認目標端點和 tool_search、defer_loading、namespace 等字段是否被完整透傳,再把 Tool Search 納入生產鏈路。

值得持續關注的變量

Gemini Tool Retrieval 仍是預覽版,正式發佈前接口可能調整。它在真實生產環境中的平均節省比例、延遲和準確率,截至 2026 年 11 月 20 日都還沒有可覈驗的獨立測試。可以預期的一個方向是:三家都在把“工具目錄治理”交給開發者,命名、簡短描述、分組和權限會越來越像檢索系統的索引工程。上線前,建議按初始輸入 Token、工具使用 Token、正確工具選擇率、無匹配檢索率和平均搜索次數建立對照實驗,用 API易 apiyi.com 等多模型環境在相同任務集上橫向驗證,避免被單一廠商的宣傳數字帶偏。

工具多了,並不等於 Agent 更聰明;能否在需要時準確找到合適的工具,才決定 Agent 的上限。正如《論語·衛靈公》所言:“工欲善其事,必先利其器。”


參考資料

  1. Google Tool Retrieval 技術文檔:服務端與客戶端檢索、限制、計費與算例
    • 鏈接: aistudio.google.com/docs/tool-retrieval
  2. Google 官方公告:Introducing Tool Retrieval in the Gemini API
    • 鏈接: blog.google/innovation-and-ai/technology/developers-tools/gemini-api-tool-retrieval
  3. Anthropic Tool Search Tool 文檔:Regex、BM25、tool_reference 與限制
    • 鏈接: platform.claude.com/docs/en/agents-and-tools/tool-use/tool-search-tool
  4. Anthropic Advanced Tool Use 公告:Tool Search 發佈與內部評測
    • 鏈接: anthropic.com/research/advanced-tool-use
  5. OpenAI Tool Search 文檔:namespace、客戶端檢索與動態注入
    • 鏈接: developers.openai.com/api/docs/guides/tools-tool-search
  6. OpenAI GPT-5.4 公告:Tool Search 發佈與 MCP Atlas 測試
    • 鏈接: openai.com/index/introducing-gpt-5-4

作者:APIYI 技術團隊
技術交流:如需進一步探討多模型 Agent 的工具調用適配,歡迎訪問 API易 apiyi.com 聯繫我們,更多接入資料可查閱 docs.apiyi.com 文檔中心

延伸閱讀

Similar Posts