Google/官方:推出 Gemini Decisions API——單次前向傳遞可評估最多一千條是否/選擇/評分量度;端到端延遲一百五十至二百五十毫秒,每百萬輸入 token 零點一美元且輸出不計費

重點摘要

Google 官方於十一月十一日宣布推出 Gemini Decisions API,由新模型 Gemini Decision 1 驅動,可在一次前向傳遞中,對文字、圖像、音訊、影片及 PDF 的共用輸入評估最多一千條是否、選擇或評分量度問題,並回傳概率與置信度。官方指端到端延遲約一百五十至二百五十毫秒,定價為每百萬輸入 token 零點一美元,輸出 token 不計費。以上內容已核對 Google 官方網誌,來源真實性已驗證。

Google/官方:推出 Gemini Decisions API——單次前向傳遞可評估最多一千條是否/選擇/評分量度;端到端延遲一百五十至二百五十毫秒,每百萬輸入 token 零點一美元且輸出不計費

Google 官方於十一月十一日宣布推出 Gemini Decisions API,由新模型 Gemini Decision 1 驅動,可在一次前向傳遞中,對文字、圖像、音訊、影片及 PDF 的共用輸入評估最多一千條是否、選擇或評分量度問題,並回傳概率與置信度。官方指端到端延遲約一百五十至二百五十毫秒,定價為每百萬輸入 token 零點一美元,輸出 token 不計費。以上內容已核對 Google 官方網誌,來源真實性已驗證。

Google/官方:推出 Gemini Decisions API——單次前向傳遞可評估最多一千條是否/選擇/評分量度;端到端延遲一百五十至二百五十毫秒,每百萬輸入 token 零點一美元且輸出不計費

生成式模型逐 token 產出答案,適合開放式寫作,但對工具選擇、內容分級、政策檢查等「選項已經框定」的工作,延遲與計費往往偏高,置信度亦不一定容易接入程式流程。Google 官方網誌於十一月十一日由 Google DeepMind 產品經理 Min Choi 與首席科學家 Felix Yu 聯名撰文,宣布推出 Gemini Decisions API,並同步推出專用模型 Gemini Decision 1(模型識別名稱 gemini-decision-1),現已可經 Google AI Studio 的 Gemini API 使用。本文以該官方網誌為準,基準表現與內部產品數字均按官方表述轉述。

一、核心事件:專為封閉選擇而設的新端點

官方公布的能力與取用方式

據 Google 官方網誌,Decisions API 是為快速、封閉集合決策而設的新端點,面向工具選擇、政策檢查、模型路由及上下文評分等有邊界的選擇。開發者可傳入一份多模態共用輸入——涵蓋文字、圖像、音訊、影片及 PDF,輸入上限為二十五萬六千個 token——並同時附上最多一千條彼此獨立的問題。模型不以逐 token 生成文字作答,而是在單一次前向傳遞中為候選選項評分,回傳概率與置信度。

官方寫明,端到端延遲約一百五十至二百五十毫秒,定價為每百萬輸入 token 零點一美元,輸出 token 不計費。共用輸入按每次請求計費一次,無論該次評估多少條問題;各條問題只會額外計入其指示與準則 token。官方並稱,沒有輸出 token 費用、可變的 thinking-token 帳單,亦沒有分開的音訊轉寫或光學字元辨識(OCR)費用。Google AI Studio 提供可用於原型開發的 API 免費用量層,並備有 Python、JavaScript 及 REST 指南,以及官方文檔與示範應用。

官方示例以 google-genai 軟件開發套件呼叫,模型名稱為 gemini-decision-1,並在程式碼中使用 v1beta 作為 API 版本。官方又指,生態系整合正於 OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、Pipecat、LiveKit、OpenCode 及 google-genai 軟件開發套件陸續推出,Google Cloud 上的 Gemini 支援即將提供。

三種決策類型

官方把問題分成三類,並可在同一請求中混合使用,每條答案都附帶由零至一的置信度,以便程式把含糊個案轉到後備路徑或交由人工覆核:

  • noul(是否):估計某一是否條件成立的概率,並可選擇附加成立與不成立的描述準則。
  • choice(多項選擇):從二至二百五十五個選項中選出結果,並回傳勝出項及每個候選的正規化概率。
  • score(有序評分量度):按由零起計的有序評級為輸入打分,回傳加權連續分數及各級概率。

官方指出,輸入欄位採用與 Interactions API 相同的 Content 區塊格式。網誌以茶水間枱面檢查為例,把一張溢出液體的照片與文字說明一併送入,同時詢問是否有未清理的溢漏、應採取哪項清理行動,以及雜亂程度評級。

二、技術原理:單次前向評分,強調校準與延遲

官方解釋,Gemini Decision 1 建立在 Gemini 的原生多模態架構上,可直接在單一次前向傳遞中處理文字、圖像、音訊、影片及 PDF,亦可把不同模態組合在同一份共用輸入,例如把通話錄音配對帳戶資料,或把掃描的 PDF 索償文件配對損毀照片;圖像與影片還可調整解析度,以平衡視覺細節與 token 成本。

與逐 token 解碼的生成路徑不同,該模型為選項評分而不產生答案文本。官方稱,在多模態輸入及最多一萬六千個 token 的上下文下,模型運算的中位延遲約五十至一百毫秒(端到端一百五十至二百五十毫秒),且由一條至一百條問題幾乎保持平坦。官方並稱,在涵蓋代理路由、推理、排序及多模態理解的基準組合上,Gemini Decision 1 領先該組基準,校準誤差最低;在同一組共用基準上,配搭 Decisions API 的費用較配搭 Interactions API 的 Gemini 3.5 Flash-Lite 接近便宜五倍。上述比較與校準表述均為官方自行公布的結果,外界仍須按實際工作負載自行驗證。

三、日常應用場景

1. 開發者與技術團隊

對正在編寫代理人、路由器或評分器的團隊而言,官方把 Decisions API 定位為低延遲控制平面:以定義選項的方式交付功能,而不必另行訓練自訂分類器,或等待生成式呼叫完成。官方示例展示如何一次檢查影像與文字,並同時取得是否判斷、行動選擇與嚴重程度評分,便於接入既有測試與持續整合流程。開發者現可在 Google AI Studio 取得 API 金鑰,並參閱官方文檔及示範應用開始試作。

2. 企業與隱私敏感行業

政策檢查、索償分級、內容審核與模型分層路由,都是企業常見的封閉選擇。官方舉出的內部例子包括:Gemini Notebook 以該 API 作實時路由器,把查詢導向合適的模型層級與思考深度,並稱可令日常查詢延遲最多降低約四成,同時把深度推理模型留給複雜任務;Google 搜尋則以該 API 在既定延遲範圍內,偵測針對 MCP 工具的對抗性行為與內容。金融、保險、醫療與法律等行業若要把類似判斷接入營運系統,仍須自行評估資料駐留、提示中是否含有個人或客戶機密,以及置信度門檻如何對接人工覆核。

3. 一般用戶

一般用戶較少直接呼叫此端點,但會間接受惠於建基其上的產品功能。官方舉例,Google Labs 的 CC 以該 API 從超過二百個選項中挑選表情符號反應;Stitch 的 rapid canvas 實驗則用以在數秒內產生可操作的產品流程線框,並近乎即時套用語音或點按所做的修改,再一鍵交回完整 Stitch 體驗作深化設計。這些都是「在已列選項中快速選定」而非長篇生成的場景。

4. 香港與亞洲市場視角

香港金融、保險、專業服務與公共機構,日常充斥單據、照片、錄音與表格的核對工作,例如理賠影像與表格是否一致、內容是否觸及內部政策。此類工作強調可程式化的置信度、可審計的選項集合,以及可接受的延遲。官方現階段經 Google AI Studio 的 Gemini API 提供服務,並寫明 Google Cloud 上的 Gemini 支援即將推出;在資料主權與行業合規要求較高的場景,機構仍應另行評估資料會否離開管轄範圍,以及是否需要私有部署或補充的人工覆核機制。

四、專業評價與潛在考量

優勢

官方把延遲、費用與校準一併作為賣點:單次前向傳遞最多可評估一千條問題,端到端延遲以毫秒計,輸出不計費,並為每條答案提供零至一的置信度,方便設定分流門檻。三種問題類型可在同一請求中混用,亦直接接受多模態輸入,減少先做轉寫或 OCR 再分類的流水線。對代理人路由與政策檢查這類高頻、選項封閉的工作,方向明確。

需要留意的地方

官方示例使用 v1beta API 版本,Google Cloud 上的 Gemini 支援仍屬即將提供,生產接入前應核對當前文檔與地區可用性。延遲「由一條至一百條幾乎平坦」的表述,所對應的是最多一萬六千個 token 的上下文;輸入上限雖為二十五萬六千個 token,超長上下文的實際延遲官方並未在同一段落給出對等數字。基準領先與接近五倍的費用比較,均為官方在自定基準組合上的結果,不能直接推斷所有業務場景。封閉選擇架構也不適合作為開放式寫作或需要引用生成的任務;置信度可用於分流,但並不能替代權責清晰的人工覆核,尤其在保險核賠、合規審查與安全防護等情境。把客戶檔案、病歷或交易資料送入雲端 API 前,仍須按行業規定處理資料駐留與最小化。

結語

Gemini Decisions API 把「在已框定的選項中快速、可校準地作決定」從生成式對話中分離出來,並以官方公布的延遲、價格與三種問題類型,面向路由、評分與政策檢查。對香港與亞洲的開發團隊和企業來說,這類端點能否進入正式流程,關鍵仍在資料治理、置信度門檻,以及與人工覆核如何銜接。如需在香港部署類似的決策或政策檢查流程,並把敏感資料留在境內,可參考 YSK Limited 的企業私有 LLM 全託管(https://ysk.hk/services/ai-automation),年費港幣八萬八千元起,涵蓋資料集建立、QLoRA/LoRA 微調至私有應用程式介面,數據不出境。


參考來源

延伸閱讀 · 相關服務與產品