Gemini Decisions API上线:专做快速决策

Gemini Decisions API上线:专做快速决策

谷歌11月11日发布Gemini Decisions API,由新模型Gemini Decision 1驱动。与逐词生成答案不同,它在一次前向推理中直接给候选选项打分,返回概率与置信度,端到端延迟仅150至250毫秒,输入价格为每百万token 0.10美元,且不收输出token费用。

一次请求可以带上一份多模态输入,覆盖文本、图像、音频、视频与PDF,最多25.6万token,并同时评估最多1000个独立问题。问题分三种:是非判断、多选(2至255个选项)与有序量表评分,每个答案都附带0到1的置信度,方便代码把拿不准的情况转交给人工。

谷歌内部已经在多个产品里用上这套接口:Gemini Notebook用它做实时模型路由,把日常查询的延迟降低最多40%;设计工具Stitch用它在数秒内生成可交互的产品流程线框;谷歌实验室的CC用它从200多个表情里瞬间挑出合适的反应。

一次推理,千个判断

在共享基准测试中,Gemini Decision 1在智能体路由、推理、排序与多模态理解上全面领先,且校准误差最低。与Gemini 3.5 Flash-Lite搭配Interactions API的方案相比,整体成本低近5倍。校准误差低意味着它的置信度更可信,这对自动化决策尤为重要。

谷歌搜索也用这套接口做MCP工具的安全层,在既定的延迟预算内检测对抗行为与内容。把判断做成低延迟、可计量的服务,正是它能进入搜索这类核心链路的前提。安全检查一旦拖慢响应,就没有产品愿意接入。

生态整合也在同步铺开,OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、Pipecat、LiveKit与OpenCode均已接入,Google Cloud上的Gemini版本即将推出。开发者可以在Google AI Studio用免费层做原型验证,先跑通流程再决定是否付费。

判断即基础设施

这套接口瞄准的是另一类需求:不需要模型写长文,只需要它在毫秒级做出可靠判断。工具选择、策略检查、内容分级这类控制层任务,正是传统生成式调用最浪费的地方。让生成模型去做判断题,等于用大炮打蚊子。

对开发者来说,决策型接口的意义在于把判断变成可计量的基础设施:有概率、有置信度、有固定成本,适合嵌进自动化流程里大规模跑,而不是每次都等一段生成文本。成本可预测,是它能进生产环境的关键。

从更大的趋势看,大模型正在分化为两类角色:写长文的生成器与做判断的决策器。Gemini Decisions API的发布,标志着谷歌正式把后者做成了一款独立产品。决策即服务,或许会成为下一波AI基础设施的竞争焦点。