Gemini Decision 1 的 1000 道题,只有彼此独立才能合并
Gemini Decision 1 的一次请求可对共享证据作最多 1000 个独立判断,但问题彼此不能读取结果。用十道检查和明确假设的输入账单,分清何时合并、何时让应用代码组合或串行请求,以及何时必须留给人工。

封面为 Google 官方示例输入照片,不是本站实测或模型执行画面。
Gemini Decision 1 可以把同一份材料上的多道独立检查放进一次请求;1000 是问题数量上限,不是能连续执行 1000 步推理。 如果第十题必须先知道第三题的答案,就在应用里组合已经返回的结果,或拿第三题的结果发第二次请求。若结果会触发退款、封禁或调用高权限工具,最终许可仍应由代码中的规则和有权限的人决定,不能交给一个 confidence 数字。
Google 在 11 月 11 日推出 Gemini Decision 1 与 Decisions API 公告。这个接口不像聊天模型那样逐 token 写出回答:调用者先列出是非、单选或有序评分题,它返回选项及概率。这件事最值得工程团队关心的,不是题目上限有多大,而是哪几道题真的可以看同一份证据、互不等待。
十道检查共用一份材料,不等于十步推理
设想一张已获授权用于测试、经过脱敏的售后工单:文字描述一笔重复扣款,附有一张账单截图。团队想先看它是否涉及支付、是否需要识别票据、该走哪个处理队列、是否需要加急,以及另外几项独立风险标记。每项都能只依据这份工单作答;它们可以在一个请求里成为十道题。这是假设工作流,不是我们处理过的真实工单,更不是上传真实客户材料的建议。
Decisions API 指南允许一次放入 1–1000 道问题,共享一份 input,每题单独返回答案。它说得很直接:问题不能看到其他问题的答案。题目的 key 只是返回结果的标识,不会替调用者向模型传达含义;billing_check 这个名字不能代替完整的 instructions。「根据工单判断是否涉及重复扣费」应写在题目里,不能藏在变量名中。
接口的三类输出也决定了适用范围:noul 返回“是”的概率;choice 从 2–255 个选项选一个并给出分布;score 按 2–255 个有序等级给出分布与概率加权的等级下标。score: 1.7 不是“第 1.7 级”这个真实档位,更不是可直接相加的赔付金额。选项文本、等级顺序和各题判断标准要在设计时固定,否则两批结果看似同名,实际口径可能不同。接口输入可含文字、图片、音频、视频或 PDF,但每道题的 instructions 是文本;不能把每道题当成一个独立携带图片的子请求,媒体证据要放在共享输入中(型号说明)。
独立报道 VentureBeat 对 Decisions API 的解读也把它描述为在共享证据上运行一组清单检查,并举了表单和照片、录音检查等例子。报道可帮助理解使用场景,但“适合批检”并不等于“适合让上一题的结论自动变成下一题的事实”。那个箭头不在模型内部,必须由调用者画出来。

一次合并能省多少输入,先看重复送了什么
假设这份纯文本工单与必要规则合计 2000 input token,十道彼此独立的问题各额外增加 40 token,且先忽略协议和格式开销。合成一请求,就是 2000 + 10 × 40 = 2400 input token。若逐题独立请求,每次都重复送同一份材料,则是 10 × (2000 + 40) = 20400 input token。此处计算的是“重复搬运共享材料”的差异,不是模型神奇地免费完成九道题;每道题的说明与判断标准仍占输入预算。真实用量应以响应里的 usage 核对,而不是相信纸面长度。
官方价格页的 Gemini Decision 1 档列出付费输入每百万 token 0.10 美元,输出 token 不计适用费用。按上面完全相同的计数假设,合并请求的理论输入费是 2400 / 1,000,000 × $0.10 = $0.00024;逐题重发则是 20400 / 1,000,000 × $0.10 = $0.00204。后者是前者 8.5 倍,只对这组假设与这种逐题重复发送方式成立,不是这款模型对所有工作流的固定节省率。
换成一段十几 token 的短句,共享部分不再是大头,差距自然缩小;如果题目互相依赖,合并请求也不能替代后续调用。多模态输入的 token 计量、请求失败后重试、应用层再请求、人工处理以及其他模型写解释的费用,都不在这笔理论账里。价格很低不是把所有题目塞满的理由:不能安全合并的工作流,账面便宜也做不对。
| 同一组假设下的请求方式 | 输入 token 合计 | 理论输入费(USD) |
|---|---|---|
| 十题合并一次 | 2400 | $0.00024 |
| 十次逐题重复材料 | 20400 | $0.00204 |
这里只比较上述纯文本假设,不含格式、媒体计量、失败重试或人工费用。
1000 是容量上限,不是满载时延承诺
Google 报告,在它测试的至 16K token 上下文、多模态输入条件下,模型计算的中位时延约 50–100 毫秒,端到端约 150–250 毫秒;从 1 到 100 道问题时延近乎平坦(官方发布公告)。这是厂商测试,不是我们的请求日志。端到端与纯模型计算也不是两个可互换的数字。
型号规格给的是 262144 input token 上限;接口指南说明这是共享输入加所有题目合起来的预算,最多可有 1000 题。规格上限与时延测试窗口是两件事:官方的 16K/1–100 题曲线,不能外推到 262144 token/1000 题。每增加一道题都要带 instructions 与可能的 criteria;输入很长时,题数上限甚至不是最先碰到的限制。上线前需按自己的输入长度、题数与地区实测端到端分位数,尤其是尾延迟和重试,不应把厂商测试窗口写成服务承诺。
另外,“零输出 token”说的是这个接口不生成文本,不是整个流程不需要文字。若下游要向客户解释为什么工单升级、抽取不预设的字段或生成一封回复,应安排独立的生成或人工步骤;不能把 choice 的概率表当成现成的理由。型号页也标明不支持 function calling、thinking、context caching 和 Batch 等能力。设计时把它放在固定答案空间的判断节点,而不是把一个聊天代理的工具循环整段搬过来。
何时合并,何时必须串行或交人工
画一张最简单的依赖图:如果 A、B、C 都只读取工单原文,而且各自的选项事先定义,就放在一批。假如规则是“仅当 A=重复扣费且 B=高风险,才交人工复核”,A 与 B 仍可一起问;A && B 是应用代码在响应之后计算的,不需要让模型假装看见另一个答案。这个区分能省掉不少不必要的第二次调用。
如果 B 的问题本身必须由 A 的答案构造,比如先找出具体合同类型,再调出该类型专属条款问是否适用,就不能把“上一题答了什么”伪装成同批题目的共享事实。可以先调用 A,应用取到相应条款并核对可访问范围,再以新证据发第二次请求。也可以在所有条款已经合法、完整地包含于同一输入时,事先列出各分支的独立判断,最后只保留命中分支的结果;但预先计算所有分支会消耗额外 token,且不得借此读取本来无权提供的材料。哪种更省,要把分支命中率和失败重试算进去。
再往后是权限边界。noul: 0.92 表示“是”的估计概率,不是“92% 有权退款”。confidence 对是非题是 max(p, 1 − p),对单选或评分题是最大结果概率;它衡量的是模型所报分布的形状,不是权限令牌、政策批准,也不保证这个样本一定正确(API 的 confidence 定义)。哪怕 0.99,也可能是在错误截图、过期条款或攻击性输入上非常自信地给错答案。金额上限、客户身份核验、业务规则与审批记录要由现有授权链执行;模型可以提供待复核信号,不能授予操作权。
报错、无答案或结果不满足校验契约时,应用不能默默把它解释为“通过”。例如要自动加标签,可先保留原状态并排入重试或人工队列;要执行不可逆拒绝,则应停止自动动作,转交有权限的处理者。分支命中、答案置信与实际执行结果应分开记录,方便事后区分“模型判断错了”与“代码把判断用错了”。
把这一区分放回 Google 的厨房示例更直观:图上“有洒落”是 0.95,“用布擦拭”是被选中的选项,严重程度是 1.19/2。它们是三类答案,不是已经发生的清洁动作;选项旁的 98% 也不是执行许可。

用一组可停止的试验,而不是一个漂亮阈值决定上线
先从确有使用授权的样本做离线验证:去标识化还不够,来源、合同和组织策略也必须允许上传。价格页分别写明免费层数据可用于产品改进、付费层不用于该用途;这只回答供应商在这两个层级上的使用口径,不代替真实客户数据的授权与数据处理审查(官方价格页)。授权不清楚就不用这批数据试验。
为每道题制定人工标注的对照答案,再把“单题请求”和“同输入批量请求”放在同一组样本上比较:记录按题型、语言、材料形态划分的错误;单独查高损失误判,而不是只报平均准确率。特别保留模糊描述、截图模糊、互相矛盾的字段和缺少必要附件的样本;如果测试集只有格式完美的工单,阈值只是在奖励简单样本。标注时允许“证据不足,无法裁决”,而不强迫人工也选一个模型预设选项。将样本分成调阈值与独立验收两份,避免看着同一批答案反复调整直到数字好看。再测十问、五十问、百问的端到端耗时、响应错误率与实际 usage,观察是否达到自己的时延预算。题目数量和材料形态继续扩展时重新测,不沿用厂商在 1–100 问/16K 条件下的结果。
阈值应由每道题自己的误判代价与标注集推出来,不把指南示例里某个数当通用许可线。可以给低风险分流设自动处理区、给不确定样本设人工区;高风险动作无论概率多漂亮都保留原有授权门。若关键题在标注集上出现无法接受的漏报,若批量与单题对同一证据持续分歧,或若尾延迟、失败率、完整流程成本越过本团队预算,就停止自动执行,把它退回辅助标记/人工队列,修正问题说明或拆分流程后再测。没有能代表生产输入的授权样本,也应停在设计阶段。
这条边界比“最多 1000 题”更有用:一次请求能合并的是共享证据,不是责任链。 先列依赖图,再计算输入账、量时延,最后把审批和回退留在代码及人工流程里;如果其中任何一环缺失,少发几次请求不值得换来一次不可解释的错误动作。