谷歌发布Gemini Decisions API,单次请求最多评估1000个是非题
谷歌称新端点由Gemini Decision 1模型驱动,可对文本、图像、音频、视频和PDF的共享输入一次性完成最多 1000 个封闭式判断,端到端延迟 150–250 毫秒,输入定价每百万token 0.10美元、输出不计费。
AI解读:Decision 1面向的是封闭选项判断,而不是逐token生成文本。它把候选选项一次性打分,返回概率和置信度,这让调用方能把低置信结果转交人工或备用流程。
官方把典型用途列为工具选择、策略检查、模型路由和上下文评级,并在Gemini Notebook的动态路由、Stitch的快速画布、CC的表情选择、搜索的MCP工具安全层中已内部使用。这些都是谷歌自述的部署情况,未有第三方评测数据。
延迟数字需要看边界:谷歌称模型计算中位数为 50–100 毫秒、端到端 150–250 毫秒,这一指标对应“多模态输入且上下文不超过 16K token”的情况,且每请求 1 到 100 个问题时延迟几乎持平。
成本口径是输入每百万token 0.10美元、输出token零计费。谷歌称含共享输入计费一次、不单独收音频转写或OCR费用;它据此称在共享基准套件上比使用Interactions API的Gemini 3.5 Flash-Lite便宜近 5 倍,但这是厂商对比,需按其基准设置理解。
谷歌于 11 月 11 日发布Gemini Decisions API,由新模型Gemini Decision 1(gemini-decision-1)驱动,通过Gemini API在Google AI Studio提供。该端点面向封闭集合决策,支持是非题、选择题和按评分标准打分三类问题。
按谷歌产品经理Min Choi和首席科学家Felix Yu的说明,一次请求可携带一份跨文本、图像、音频、视频和PDF的共享输入(上限 256K token),并附带最多 1000 个相互独立的问题;模型不逐token生成答案,而是对候选选项单次前向计算打分,返回概率与置信度。
定价为每百万输入token 0.10美元,输出token不计费;Google AI Studio提供免费额度用于原型开发。谷歌称共享输入每请求只计费一次,每个问题仅增加自身的指令和评分标准token,不另收音频转写和OCR费用。
三类判断与置信度输出
Decisions API支持三种问题类型:yes/no估算某条件成立的概率,可选填真、假两种描述;choice从 2 到 255 个选项中选出结果并给出各候选的归一化概率;score按有序评分标准打分,从 0 起返回连续加权分数和各档概率。每个答案都带 0 到 1 的置信度,供调用代码将模糊情况转给备用流程或人工复核。
输入沿用Interactions API的Content block格式,图像和视频可调整分辨率以控制视觉细节与token成本。谷歌给出的示例是把一张休息室台面照片与一句文字备注放在同一请求中,同时判断“是否有未清理的液体泼洒”、选择“下一步清洁动作”、并按三级评分标准给出严重程度。
- yes/no:返回条件成立概率,可附加成立与不成立的描述
- choice:2 至 255 个选项,返回胜出项和归一化概率
- score:按有序评分标准返回连续分数及每档概率
- 每个答案附带 0 到 1 的置信度
- 共享输入上限 256K token,单请求最多 1000 个问题
谷歌自述的延迟与成本对比
谷歌称在覆盖智能体路由、推理、排序和多模态理解的基准套件上,Gemini Decision 1处于领先,且校准误差最低。延迟方面,模型计算中位数为 50–100 毫秒、端到端 150–250 毫秒,对应多模态输入且上下文不超过 16K token的情况,每请求 1 到 100 个问题时保持近乎持平。
成本上,谷歌以零输出token计费为依据,称在共享基准套件上比使用Interactions API的Gemini 3.5 Flash-Lite便宜近 5 倍。该比较来自谷歌自身的基准设置和调用方式,未披露独立复现数据。
- 模型计算中位数:50–100 毫秒
- 端到端延迟:150–250 毫秒
- 适用延迟口径:多模态输入、上下文不超过 16K token
- 谷歌称比Gemini 3.5 Flash-Lite配合Interactions API便宜近 5 倍
谷歌内部的既有用法
谷歌称该API已在多个内部产品中作为低延迟控制层使用,做法是定义选项而非训练专用分类器或等待生成式调用。Gemini Notebook用它做实时路由,按意图把查询分到合适模型层级和思考深度;谷歌称日常查询延迟最多降低 40%,复杂任务仍交给深度推理模型。
Stitch的快速画布实验用它几秒内生成可操作的产品流程线框,并近乎即时应用语音或点按修改;CC从 200 多个选项中挑选表情反应;Google Search用它检测MCP工具面临的对抗性行为和内容。这些均为谷歌单方面描述的效果。
- Gemini Notebook:实时模型路由,谷歌称日常查询延迟最多降低 40%
- Stitch:快速画布生成产品流程线框并即时应用修改
- CC:从 200 多个表情中快速选择反应
- Google Search:为MCP工具提供对抗性内容检测
接入方式与适用范围
开发者可在Google AI Studio获取API key,使用Python、JavaScript和REST文档接入,谷歌同时提供三个演示应用。生态集成正在铺开,包括OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、Pipecat、LiveKit和OpenCode,谷歌称后续将支持Google Cloud中的Gemini。
该API的定位限于封闭选项判断:问题、选项和评分标准需由调用方事先给出,模型输出的是这些选项上的概率与分数,不负责开放文本生成。
- 入口:Google AI Studio获取API key
- 提供Python、JavaScript、REST接入文档和演示应用
- 生态:OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、Pipecat、LiveKit、OpenCode
- Google Cloud中的Gemini支持尚未上线