Google 在 Gemini API 推出工具检索预览:按需加载工具参数
Google 于 2026 年 11 月 19 日宣布在 Gemini API 的 Interactions API 中推出 Tool Retrieval 预览功能。该功能面向连接数十乃至数百个工具的智能体场景,允许开发者把完整工具库置于待命状态,仅在当前任务需要时加载参数 schema,从而降低输入 token 数量与延迟,并维持工具选择准确度。
从全量下发到按需加载
Google 将 Tool Retrieval 定位为解决大规模工具库问题的机制。原文指出,当智能体连接数十甚至数百个工具时,每次请求都发送完整的参数 schema 会快速累积输入 token、增加延迟,并随着候选列表变长而降低工具选择准确度。启用后,智能体保留完整工具库,但只在当前任务需要时加载参数 schema。
具体行为上,模型仍然能看到每个被延迟工具的 name 和 description,因此知道有哪些工具可用,但参数 schema 不进入上下文。当模型需要某个工具时,它按名称请求,API 加载完整 schema,模型再发出函数调用,这些步骤都在同一次请求内完成。原文强调,这之后就是普通的函数调用流程,由开发者代码执行实际操作并返回 function_result。
接入方式与可观测步骤
开发者需要在请求中加入一个 tool_search 工具,并对希望延迟加载的工具设置 defer_loading: true。原文示例中,退款函数 issue_refund 被标记为延迟加载,同时保留高频工具不延迟。原文建议可以把最常用的工具预先加载,把长尾工具延迟。
调试方面,搜索、加载 schema 与函数调用三步都会出现在 interaction.steps 中,包括 tool_search_call、tool_search_result 和 function_call 三类步骤,便于开发者检查模型在工具名称或描述有误时考虑了哪些工具。原文还说明,该功能不需要构建或托管索引,搜索由 Gemini 在服务端运行,代码改动仅为新增工具和设置标志。
与缓存和远程 MCP 服务器的配合
Tool Retrieval 可与前缀缓存配合使用。原文解释,被延迟的 schema 不进入提示词开头,模型加载的 schema 在对话较后位置加入,因此缓存前缀在各轮之间保持一致。
该功能也支持 Gemini API 中的远程 MCP 服务器。开发者对 mcp_server 工具设置 defer_loading: true 后,该服务器暴露的所有工具都按需加载,无需逐个列出,从而可以连接大型服务器。原文未说明该能力是否覆盖所有 MCP 服务器类型或部署形态。
客户端检索与额外往返
对于维护自有工具注册表、嵌入索引或按用户权限过滤的团队,原文提供客户端检索模式:将 tool_search 声明为 "execution": "client" 并定义搜索参数。此时由应用执行查找,每次搜索会增加一次往返。
客户端模式的一个差异是工具无需预先声明,因此可以在对话中途用户连接集成时暴露新工具。原文示例中,模型对 search_tools 发出 function_call 后,应用在 function_result 中返回匹配的函数 schema,并通过 previous_interaction_id 继续同一交互。
计费、模型范围与当前阶段
Tool Retrieval 没有单独收费,输入与输出 token 按所调用模型的标准费率计费。启用 tool_search 会增加一小段固定输入 token,模型加载的每个 schema 在对话剩余部分按输入计费,与预先声明工具相同。原文指出,当未加载的 schema 多于已加载的 schema 时才能节省 token,并建议开发者用自己的流量测量。
该功能当前处于预览阶段,位于 Interactions API 中,适用于 Gemini 3.6 及之后模型,包括所有 Gemini 4 模型。原文未给出预览结束时间、正式可用时间或各模型的单独限制。
知序观察
观察:Tool Retrieval 把工具库规模问题从“每次全量下发”转为“按需加载”,对工具数量多、长尾明显的智能体更有意义;但原文明确节省取决于未加载 schema 与已加载 schema 的对比,且客户端模式会增加往返。实际收益仍需开发者按自身流量测量,预览阶段的范围与后续正式化节奏尚不明确。