Cloudflare 於二〇二六年十月十九日在官方 Blog 公開，團隊以「近乎偏執」的方式優化內部 AI 程式碼審核代理後，平均單次審核成本由約二點四三美元降至零點七七美元，降幅約六成八；中位完成時間由四分九秒縮至一分三十二秒。本文已核對官方原文數字與機制說明，來源真實性已驗證。
Cloudflare／官方：AI 程式碼審核推理成本降六成八——單次約二點四三美元降至零點七七；中位時長縮至一分三十二秒
Cloudflare 工程團隊在十月十九日撰文回顧內部 AI 程式碼審核器的成本曲線：四月時平均單次約一點一九美元尚可接受，至八月底已升至約二點四六美元，且並無大幅改架構。九月中起，團隊把「Token 花在哪、如何砍」交給代理與人工一起拆解；以高努力（high effort）的程式碼品質審核配置計算，昂貴兩週基線約二點四三美元的平均成本，現降至零點七七美元，降幅約六成八。附帶效果是延遲同步改善——中位審核由四分九秒降至一分三十二秒。本文內容核對自 Cloudflare Blog 原文，來源真實性已驗證。
一、成本為何翻倍：模型升級與上下文膨脹
技術細節
官方以固定審核等級組合的日均成本圖顯示，三月約一點二二美元、六月約一點四四、七月約一點七四，八月約二點三二。部分原因是落入最貴「完整審核」層級的比例由三月約百分之五十九升至八月約百分之六十五——模型變強後，工程師提交的變更更大、更複雜。另有關鍵切換：八月起幾乎所有審核者改用 Anthropic 模型，單次工作成本由約一點三八美元升至約二點零三美元；內部標準審核者 Codex 因效能與可靠度落在 Claude Opus 4.7，單次由約零點二五美元升至約零點八八美元，甚至貴過協調代理本身。
緩存命中率雖由四月約百分之八十五點七升至九月約百分之九十七，但每次審核 Token 量由約九十一萬增至約二百九十九萬——命中率再高，三倍以上的讀寫量仍推高帳單。優化前，支出結構約為：輸出 Token 約百分之二十三、緩存寫入約百分之四十三、緩存讀取約百分之三十四，顯示大量金錢花在「模型已看過或即將再看」的上下文上。
二、技術原理：前綴緩存共享與少一次呼叫
Anthropic 提示緩存以「前綴」為單位：只有對話開頭一致的段落可被後續請求重用；寫入約一點二五倍輸入價、讀取約零點一倍，五分鐘未讀即過期。官方量度顯示，每個 session 第一次請求真正讀到已緩存前綴的比例僅約百分之十四至二十六——明明工具定義與代理提示在各倉庫相同（約一萬一千至二萬一千 Token），卻因 OpenCode v1 把代理提示與含工作目錄、日期的環境訊息綁成一塊，並把唯一緩存斷點放在整塊末尾，導致跨倉庫無法共用。
九月十六日起，團隊在代理提示末加標記，用插件鉤子拆成兩段，讓「全倉庫共用」的前半段獨自成斷點，並移走斷點前的倉庫專屬內容。同日把內部標準索引（標準表、技能檔、參考列表）直接放進提示，省掉前三輪讀檔工具呼叫；Codex 類審核者平均 LLM 呼叫由約十五點九次降至約九點六次，單次成本約由一點一二美元降至零點七二美元。僅此一批改動，就把平均審核成本由約二點四七美元拉到約二點零二美元。
其後在九月二十一至二十三日再疊加「小刀慢剔」：移除子審核者用不了卻常誤叫的發佈留言工具、並行讀檔、重審時跳過無新內容的審核者、審核貼出後停止多餘摘要回合、區分逾時與供應商故障、取消的 GitLab 工作每十五秒自檢停機，以及讓程式碼品質／資安／效能三名審核者共享同一首請求前綴（後兩者最多等約二十秒讓第一個寫入緩存）。官方估算，程式碼改動約貢獻一點六七美元總降幅中的零點六五美元，其餘約一點零六美元來自模型與努力等級實驗——包括協調者統一 medium、Opus 與 Sonnet 版本對照，以及十月把 Sonnet 審核者全面切到 5.5（同價 Token 下單次便宜約四成七至六成二，因呼叫與 Token 用量大減）。
審核器本身已遷移至 OpenCode v2：切換前在金絲雀倉庫以影子模式對照，批准決策一致率約百分之九十八；同級模型下完整層審核約快百分之十三。
三、日常應用場景
1. 開發者與技術團隊
若團隊以多智能體跑程式碼審核或 CI 代理，應先量度「第一次請求是否真的讀到跨任務共用前綴」，再量度努力等級是否仍抓得到真實缺陷。Cloudflare 的經驗是：少呼叫、穩定前綴、避免把倉庫路徑／日期塞進緩存鍵，往往比一味換更貴模型更有效。
2. 企業與隱私敏感行業
企業把審核代理接到私有倉庫時，API 金鑰與提示內容同屬敏感資產。成本優化不能犧牲可觀測性：官方用「作者是否改動被標註行」與跨供應商模型盲評，驗證降噪後重要發現並未明顯變少；程式碼品質在 high effort 下，可行動發現密度大致持平，嚴重程度虛報則大減。
3. 一般用戶
對使用託管 AI 編程代理人的個人開發者，這篇文提醒「上下文與呼叫次數」才是帳單主因；緩存命中率漂亮，不代表單次成本可控。
4. 香港與亞洲市場視角
香港金融、電訊與外包團隊正把 AI 審核、測試代理接入 GitLab／GitHub。本地合規要求日誌與數據出境可控時，可把類似的多代理審核流水線部署在私有環境，並用與 Cloudflare 相同的成本儀表板盯住 Token 與緩存。若需在香港落地企業私有 LLM 與代理編排，可參考 YSK Limited 的企業私有 LLM 全託管（https://ysk.hk/services/ai-automation）。
四、專業評價與潛在考量
優勢
- 數字完整：成本、延遲、緩存讀寫、努力等級對照與品質抽樣方法均公開，可複核。
- 優化順序務實：先修緩存鍵與無效呼叫，再做模型／努力實驗，避免「換模型掩蓋架構浪費」。
- 品質並非口號：以「可行動發現」與盲評交叉驗證，承認效能審核在 medium 下確有真實發現流失，並列出下一步。
需要留意的地方
- 文中成本曲線含內部定價與工作負載假設，外推到其他產品線或供應商時不可直接套用同一個六成八。
- 品質「現在」視窗偏短；效能與資安審核仍在 medium，官方亦承認可能漏失真實問題。
- 審核棧綁定特定編程代理與模型供應商，遷移成本需自行評估。
結語
Cloudflare 這次把 AI 程式碼審核從「模型愈強愈貴」拉回可治理的工程問題：共享前綴緩存、刪無效工具回合、用對照實驗選模型與努力等級，終把平均成本壓低約六成八，並讓中位審核回到約一分半鐘。對正在香港規模化部署編程代理與私有推理的團隊，重點不是追最新模型名稱，而是量度第一次請求的緩存行為與發現品質是否同步。若要在本地以受控資料邊界建類似代理審核與私有 LLM 能力，可進一步了解 YSK Limited 企業私有 LLM 全託管方案：https://ysk.hk/services/ai-automation 。
參考來源
- Cloudflare Blog（官方主來源）：https://blog.cloudflare.com/obsessive-inference-optimization/
- Cloudflare Blog（同日 Clairic 提取模型，背景對照，非本文主述）：https://blog.cloudflare.com/clairic-extraction-model/