Google Cloud 官方於二零二六年十一月六日發表 BigQuery 博文，介紹尚屬預覽的 AI.AGG：把語義彙總做成原生 GoogleSQL 函數，讓數據團隊以單條 SQL 與自然語言指示，對數百萬列非結構化／多模態資料做分組級綜合摘要，而不必自建外部 map-reduce 流水線。官方並寫明列負載逾十 MiB、每組輸出上限一萬 token，以及建議單次查詢最多約二千萬列、最多一千個分組等護欄。本文已核對 Google Cloud 官方博文，來源真實性已驗證。

Google Cloud／官方：BigQuery 推出 AI.AGG 預覽——單條 SQL 對數百萬列語義彙總；建議上限約二千萬列與一千個分組

Google Cloud 於二零二六年十一月六日在雲端博客刊登《Semantic aggregation over millions of rows in BigQuery with AI.AGG》，由雲端工程與數據遷移顧問署名，詳細說明 AI.AGG 如何把「語義彙總」內嵌進 BigQuery。官方指出：列級 AI 函數（如 AI.GENERATE、AI.CLASSIFY）已能處理單列生成與分類，但要把數百萬列日誌、客服對話、影像或診斷報告合成「宏觀主題」，會撞上大型語言模型的上下文窗口上限；以往往往要外掛分塊、限流與遞歸摘要。AI.AGG 以受管、多層批次的 map-reduce 思路，在資料庫內完成驗證、分批、並行推理與遞歸綜合，並可與標準 SQL GROUP BY 併用。以下只整理官方博文已公開的架構、護欄與用例，來源真實性已驗證。

一、核心事件：語義彙總進入 BigQuery SQL

技術細節

官方將 AI.AGG 定位為預覽中的完全受管語義彙總函數：數據團隊在 GoogleSQL 裡寫自然語言指示，引擎便在 BigQuery 內編排整段流程，對數百萬列文字或多模態輸入產出「每個分組一條」的綜合字串結果。文中強調，這不是把整表硬塞進單次提示——即使是 Gemini 級模型，亦無法一次消化數百萬列而不截斷或失敗——而是把問題拆成可在 token 限制內安全執行的批次，再遞歸縮減。

執行管線按官方描述分為四步：先做列級驗證，單列負載若超過模型上下文窗口上限，會丟棄或回報錯誤（文中以逾十 MiB 的負載為例）；再動態組成不超過所選 Gemini 端點 token 上限的批次；接著把同一條自然語言指示並行套用到各批次，經 Vertex AI 產生中段語義摘要；最後把中段結果再分批、以相同指示遞歸綜合，直至每個 SQL GROUP BY 分組只剩一條最終彙總字串。官方並指 AI.AGG 全程依賴全量級 LLM 做跨批次推理，與可改用蒸餾 CPU 代理模型的列級 AI.CLASSIFY 等函數有別。

多模態方面，AI.AGG 可配合 BigQuery Object Tables 與 OBJ.GET_ACCESS_URL，直接對存放在 Cloud Storage 的影像做視覺洞察彙總，官方稱無需搬移或轉碼。實務提示則指出：若把多欄以 STRUCT 傳入，其中任一欄為 NULL，整列會被當成 NULL 而默默丟棄，應以 IFNULL 等顯式填補。護欄方面，每組最終輸出字串嚴格上限為一萬 token；單列不得逾十 MiB；多模態陣列建議每列少於十張影像，以免被靜默跳過；為求穩定，官方建議單次查詢處理最多約二千萬列，並輸出最多約一千個相異 SQL 分組。成本上，遞歸分批會令送往 Gemini 的總 token 高於原始資料 token 數，官方呼籲以嚴格 WHERE／LIMIT 預先過濾，並可用 AI.COUNT_TOKENS 估價；對大量靜態對照資料可考慮 Gemini Context Caching。治理上，AI.AGG 在 BigQuery 框架內運作，支援 VPC Service Controls（VPC-SC）以防外洩；批次短暫錯誤時會跳過問題列而非整查詢崩潰。

用例方面，官方示範兩類：一是把全球微服務的海量日誌按元件分組，產出可讀的診斷摘要（並建議提示先描述「正常運作」再找異常，以壓抑幻覺）；二是把無標籤的大量支援工單用 AI.AGG 合成類別 JSON 陣列，再以 JSON_VALUE_ARRAY 解包餵給 AI.CLASSIFY，在 SQL 內串起自主標註流水線。示例亦包括對公開 Hacker News 留言做作者主題／語氣彙總，以及按服務名稱彙總嚴重錯誤日誌的根因摘要。

二、技術原理深度解析

AI.AGG 要解決的核心矛盾是：關係型引擎擅長確定性分組與計數，但「主題／根因／語氣」這類語義問題需要語言模型；而語言模型又受上下文窗口限制。官方的答案是把語義彙總明確建模成資料庫內的分散式 map-reduce：map 階段在安全批次上並行產生局部語義摘要，reduce 階段用同一指示反覆綜合，直到每個 GROUP BY 鍵只剩一條結果。這樣既保留 SQL 分組的確定性邊界，又把「如何切塊、如何重試、如何拼接」收進受管引擎。

與列級函數的分工亦影響產品選擇。AI.CLASSIFY、AI.GENERATE 適合同列轉換與短答；AI.AGG 適合同一指示橫跨大量列、需要跨批次「綜觀」的任務。因為後者要在不相干批次之間合成概念，官方指其全程使用全量級 LLM，成本與延遲自然高於可走蒸餾代理的列級路徑——這也是為何預先過濾、Context Caching 與輸出契約（要求嚴格 JSON、禁止閒聊、缺資料回傳 null 而非臆測）被寫進同一篇工程指引。對企業而言，重點不是「再多一個聊天框」，而是把提示工程當成資料工程：輸出契約、欄位分隔符、失敗態設計與 few-shot 錨點，決定下游 JSON_VALUE_ARRAY／分類器能否穩定銜接。

四、日常應用場景

1. 開發者與技術團隊

維運、SRE 與數據工程團隊，可把 AI.AGG 理解成「在倉內做宏觀診斷與主題發現」的 SQL 原語：對數百萬列日誌、堆疊追蹤或工單先 GROUP BY 服務／元件，再要模型產出短摘要，減少自建 Python 分塊服務。導入時仍須：用 WHERE／LIMIT 控制範圍與成本、以 AI.COUNT_TOKENS 估價、為可空欄設 IFNULL、把輸出格式寫死成 API 契約，並在預覽階段用小樣本核對幻覺與漏列。

2. 企業與隱私敏感行業

金融、醫療與持牌機構若已把敏感日誌／對話放在 BigQuery，可評估在 VPC-SC 邊界內做語義彙總，減少把原文批量匯出到外部編排層的機會。惟預覽功能、token 放大與輸出長度上限意味著：應用於合規報告或客戶可見摘要前，仍需人類覆核、留存提示版本與抽樣稽核。多模態影像路徑亦須確認物件權限與資料分類標籤是否允許被模型讀取。

3. 一般用戶

個人開發者與中小企若使用 BigQuery 公共資料集或中小規模日誌，可用官方範式試作作者主題彙總或錯誤根因摘要，體驗「一條 SQL 完成綜觀」。但不宜假設預覽 SLA 或把未覆核的模型摘要直接當成事故定論；生產開關仍應跟從 Google Cloud 後續正式可用時程與配額。

4. 香港與亞洲市場視角

香港企業正把客服對話、交易日誌、影像單證與代理式工作流堆進數據雲；「列級生成」已常見，但「數百萬列一次講清楚主題」仍多靠外掛流水線。董事會與數據長更關心的是：摘要是否在主權／VPC 邊界內完成、成本是否可估、輸出能否接回確定性 SQL。若你正在規劃私有模型託管、資料集整理與企業內可稽核的 AI 流水線，可參考 YSK Limited 的企業私有 LLM 全託管服務（https://ysk.hk/services/ai-automation；年費由港幣八萬八千元起，資料留港），把倉內語義彙總與私有推理、微調與 API 閘道一併納入架構。

五、專業評價與潛在考量

優勢

官方把數百萬列語義彙總收成原生 SQL 函數，並公開 map-reduce 四步與 Vertex AI／Gemini 依賴，架構主張可核對
明確列出十 MiB、一萬 token、約二千萬列／一千分組、每列少於十圖等護欄，方便容量規劃
支援文字與 Cloud Storage 影像多模態，並強調 VPC-SC 與錯誤時跳過問題列，貼近企業治理敘事
用例直接對接日誌診斷與自主標註流水線，商業故事清楚

需要留意的地方

功能仍屬預覽，正式可用時程、配額與計價細節以 Google Cloud 後續公布為準
遞歸分批會放大 token 消耗；未做預過濾時成本可能高於「只跑列級函數」的直覺估算
輸出為彙總字串，品質受提示與資料雜訊影響；官方亦提醒健康日誌上的幻覺風險，須人類覆核
STRUCT 含 NULL 會整列丟棄等行為屬靜默失敗模式，管道測試不足時易低估覆蓋率
文中示例與建議上限是供應商工程指引，不能直接等同任何租戶的效能或準確度保證

結語

AI.AGG 把「跨數百萬列的語義綜觀」從外部編排收回 BigQuery SQL，並以分批、並行與遞歸綜合回應上下文窗口限制，同時公開護欄與治理邊界。對香港正建設代理式數據雲與私有推理的團隊而言，價值在於用確定性分組約束生成式摘要，並把成本與外洩風險留在可稽核的倉內路徑。若你需要把資料集、微調與私有 API 連成可落地的企業 AI 流水線，可進一步了解 YSK Limited 的企業私有 LLM 全託管：https://ysk.hk/services/ai-automation。

參考來源

Google Cloud 官方：Semantic aggregation over millions of rows in BigQuery with AI.AGG — https://cloud.google.com/blog/products/data-analytics/semantic-data-aggregation-with-bigquery-and-ai-agg/
YSK Limited 企業私有 LLM／AI 自動化 — https://ysk.hk/services/ai-automation