大模型与知识库

Google 发布 Gemini Decisions API:单次前向计算完成多模态封闭式判断

Google DeepMind 发布 Gemini Decisions API,由新模型 Gemini Decision 1(gemini-decision-1)驱动,通过 Google AI Studio 中的 Gemini API 提供。该接口面向工具选择、策略检查、模型路由和上下文评分等封闭集合判断场景,不逐 token 生成答案文本,而是在一次前向计算中对候选选项打分并返回概率与置信度,目前已可申请 API Key 开始构建。

从生成文本转向对候选选项打分

Decisions API 的定位是为有界选择提供专用原语,典型用途包括工具选择、策略检查、模型路由和上下文评分。与逐 token 生成回答的方式不同,Gemini Decision 1 在一次前向计算中为候选选项打分,直接返回概率和 0 到 1 的置信度分数,调用方可以据此把模糊结果转交兜底逻辑或人工复核。

一次请求可以携带一份共享的多模态输入,覆盖文本、图像、音频、视频和 PDF,上限为 256K token,并同时提出最多 1000 个相互独立的问题。输入字段沿用 Interactions API 的 Content block 格式,图像和视频输入可调整分辨率,以控制视觉细节与 token 成本。

三种问题类型与置信度输出

接口支持三类问题并在同一请求中混用。noul 类型估计某个是非条件成立的概率,可选提供为真和为假的描述标准;choice 类型从 2 到 255 个候选中选出结果,并返回每个候选的归一化概率;score 类型按从 0 开始的有序评分标准打分,返回连续加权分数和各档位概率。

官方示例展示了把一张休息室台面照片与一条文本备注组合,在一次请求中同时判断是否存在未清理的液体泼洒、应选择哪种清理动作以及脏乱严重程度,说明多模态共享输入与多问题组合的实际用法。

延迟、定价与计费方式

Google 给出的数据是:在 16K token 以内的多模态输入和上下文下,模型计算中位延迟为 50-100 毫秒,端到端为 150-250 毫秒,并且每请求问题数从 1 增加到 100 时延迟基本持平。定价为每百万输入 token 0.10 美元,输出 token 不计费,Google AI Studio 提供无成本额度用于原型验证。

计费上,共享输入每个请求只计一次,无论评估多少问题,每个问题只额外增加自身的指令和标准 token。官方称没有输出 token 费用、可变思考 token 账单,也不单独收取音频转写和 OCR 费用;在共享基准套件上,其成本约为 Gemini 3.5 Flash-Lite 配合 Interactions API 的五分之一。

Google 内部已落地的控制面用法

Google 内部多个团队已把 Decisions API 当作低延迟控制面使用,通过定义选项而非训练自定义分类器或等待生成式调用来上线功能。Gemini Notebook 用它做实时路由,把请求即时分配到合适的模型层级和思考深度,官方称日常查询延迟最多降低 40%,复杂任务仍交给深度推理模型。

Stitch 的快速画布实验用它生成可交互的产品流程线框图,并几乎即时应用语音或点击产生的修改;Google Labs 的 CC 从 200 多个表情中快速选出合适反应;Google Search 则用该接口在延迟范围内检测 MCP 工具的对抗性行为与内容。

接入方式与生态集成

开发者可在 Google AI Studio 获取 API Key,并参考 Python、JavaScript 和 REST 指南接入,官方同时提供 Doorstep Parcels、Speed Sketch 和 Find the Zoo Keeper 三个演示应用。除 google-genai SDK 外,OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、Pipecat、LiveKit 和 OpenCode 的生态集成正在陆续推出。

Google 表示对 Google Cloud 中 Gemini 的支持即将到来。原文未说明该接口是否处于预览阶段、各区域可用范围或企业级配额细节,这些信息需以官方文档为准。

基准表现与校准

Google 称在覆盖智能体路由、推理、排序和多模态理解的基准上,Gemini Decision 1 整体领先,并具有最低的校准误差。校准误差衡量模型给出的置信度与实际正确率之间的偏差,对依赖置信度做路由和人工兜底的系统尤为关键。

需要说明的是,上述性能与成本对比均来自 Google 自述,原文未列出具体基准名称、数据集构成或第三方复现结果,实际效果仍需开发者自行验证。

知序观察

观察:Decisions API 把大模型能力收窄到封闭集合判断,用概率和置信度替代自由文本输出,切中了路由、审核、策略校验等高频低延迟环节的成本痛点。若其校准表现与延迟数据经得起第三方验证,可能推动更多团队用统一接口替代自建分类器;但基准均为 Google 自述,且预览状态、区域可用性未披露,落地前仍需实测。

留下你的想法

欢迎交流。你的邮箱地址不会公开。