Anthropic 前沿紅隊於二零二六年十一月二日公開研究進度，發布開源可證明推論原型 FlashProve：以 zkSNARK 密碼學證明，讓用戶在無需取得模型權重、亦無需自行重跑巨型模型的前提下，核實某段回覆確實由已承諾的特定權重產生。官方以 Llama 4 Maverick（約四千億參數混合專家模型、四位元量化）示範，單卡 H100 可達約每秒一百一十個 token 的證明產出，每一千零二十四個 token 請求約十九 MB 證明檔。本文已核對 Anthropic 官方研究頁，來源真實性已驗證。
Anthropic／官方：開源 FlashProve——以 zkSNARK 證明回覆來自特定模型權重；Llama 4 Maverick 單卡 H100 約每秒一百一十 token
Anthropic 前沿紅隊（Frontier Red Team）於二零二六年十一月二日刊出《Progress on provable inference for large language models》，交代其在「可證明推論」（provable inference）上的中期進度，並以開源系統 FlashProve 作為主要成果。官方指出，用戶今日無法單靠輸出內容確認回應是否來自所選模型——路由服務可能為節省成本暗中替換較便宜模型，攻擊者亦可能竄改 token 串流；密碼學推論證明正是要堵住這類信任缺口。來源真實性已驗證。
一、核心事件：FlashProve 做什麼
FlashProve 把可證明推論拆成兩階段。離線階段，模型供應商對權重發布短「指紋」承諾（commitment），鎖定某一組確切權重，但權重本身保持隱藏。線上階段，供應商（證明者）就指定提示與輸出 token 產出證明檔，證明「已承諾的模型在該輸入下會產生這些輸出」。任何持有承諾、提示與回覆的人，都可在無須權重、計算資源有限的情況下驗收證明。
官方強調證明需同時滿足完備性與可靠性（誠實證明會被接受；偽造假陳述的有效證明在現實上等同於打破廣為接受的密碼學假設），並進一步要求零知識（證明不洩漏權重與中間值）以及簡潔性（證明檔小、驗證快）。系統假設服務端為混合專家（MoE）架構，並利用「每 token 只啟動約一百七十億有效參數」的結構來降低證明成本；架構本身並非本系統隱藏目標。
技術細節
官方公開評估數字（公開四位元權重、每請求視窗一千零二十四個 token、每證明檢查一個 token）：
- 證明者：單卡 H100 加二十四核 CPU；離線承諾每模型一次約三十九分鐘（技術原因下承諾約可支撐一千六百萬次請求後需再承諾）；線上以二十四請求一批約二百二十三秒，折合約每秒一百一十個 token；每證明約十八點七八 MB。
- 驗證者：僅需 CPU；下載約六點五 MB 承諾後逐請求驗證；二十四執行緒約十七秒、單執行緒約二十一秒。
- 相對原生推論：與八卡 H100 上 vLLM（同模型 FP8）相比，證明同一批二十四請求的每 GPU 時間約為七十二倍（跨次約六十六至七十七），高負載情境約九十四倍。
發布物包括研究網誌、技術報告、協議規格、可執行證明者與兩套驗證者（快速 C++ 與可形式驗證的 Lean），以及頂層安全性質的 Lean 證明與可視化工具；程式與 Lean 證明以 Apache 2.0 授權公開。官方明確寫明：這是中期進度分享，並非已完成的研究議程，亦無宣布在 Anthropic 或其他實驗室即時全面部署。
二、技術原理深度解析
FlashProve 採用 zkSNARK（零知識簡潔知識論證）路線，屬於軟體密碼學方案，而非僅依賴可信執行環境（TEE）。資訊理論上的互動式神諭證明（IOP）經雜湊編譯為密碼學證明，官方稱可提供後量子安全性方向的設計基礎。證明採事後（post-hoc）批次路徑：先完成文字生成，再平行重算並對權重承諾開證，而非與推論完全同步的 inline 證明——犧牲即時性以換取較不犧牲安全性的工程空間。
為將巨型 MoE 塞進單卡，系統按層切段串流權重，並使證明工作量與實際啟動的專家參數量成正比。Lean 形式驗證針對完備性、可靠性與零知識給出可機器檢查的頂層陳述；快速 C++ 驗證者日常使用，Lean 驗證者較慢但與可靠性定理對齊。官方亦列明限制：目前證明的是整數化貪婪解碼版本，與浮點或抽樣解碼可能在個別位置分歧；上下文暫以一千零二十四 token 為上限；側信道（如證明耗時）不在本版保證範圍。
三、日常應用場景
1. 開發者與技術團隊
若供應商聲稱「已用前沿資安模型掃描程式庫漏洞」，或第三方路由聲稱吐出的是付費級別模型，FlashProve 類證明可把「聊天紀錄截圖」升級為可驗證主張。開源原型也讓安全工程團隊可在自有硬體上重現基準、改寫至其他 MoE。
2. 企業與隱私敏感行業
金融、法律、醫療等行業常把模型選擇寫進合約與合規文件。可證明推論有助獨立評估者確認測評對象與線上服務一致，並降低「暗中換模」的採購風險；零知識設計同時避免把專有權重交給客戶或監管方。
3. 一般用戶
一般對話未必需要每則回覆都附證明；但在高風險指令、高價 API 或懷疑路由偷換模型時，簡潔可驗證證明提供比「觀感像不像」更硬的依據。
4. 香港與亞洲市場視角
香港金融科技與法律科技監管氛圍升溫，持牌機構與企業法務愈來愈常問「線上到底跑哪一版模型」。本地團隊若自建或採購私有／託管 LLM，可把「推論完整性」列為招標與驗收條款的一部分；亞洲多管轄區並行採購雲端與本地節點時，亦可用證明降低跨境路由的不透明性。
四、專業評價與潛在考量
優勢
- 以公開基準把四百億級 MoE 的 zk 推論證明推到約每秒一百一十 token、約十九 MB 證明，較過往開源數字有明顯跨級進展。
- 權重可隱藏、驗證可在普通 CPU 完成，對客戶信任、內部防竄改與監管抽檢都有清晰產品想像。
- Apache 2.0 開源加 Lean 頂層性質，降低「黑盒研究新聞」的可複現門檻。
需要留意的地方
- 官方定位為研究原型：未承諾生產部署時間表；證明開銷仍約為原生推論的七十至九十五倍級。
- 整數貪婪解碼與真實浮點／抽樣服務可能不一致；短上下文與 MoE 架構假設限制適用面。
- 可證明推論不能單獨證明「硬體沒有同時在訓練」或完全杜絕側信道；需與 TEE、流量簽署、運行時監控等控制疊加。
結語
當企業把代理人與私有模型嵌進關鍵流程，「你以為在用哪一款模型」本身已是資安與合約問題。Anthropic 以 FlashProve 示範：zkSNARK 路線可以把模型身分從口頭保證推進到可驗證證明，即使仍屬中期開源原型。香港團隊若正評估私有 LLM 託管、模型閘道與合規驗收，可把推論完整性納入架構討論；需要本地數據不出境的私有模型方案，亦可參考 YSK Limited 的企業私有 LLM 全託管（https://ysk.hk/services/ai-automation）。
參考來源
- Anthropic 官方研究：Progress on provable inference for large language models（FlashProve）https://www.anthropic.com/research/provable-inference
- TechCrunch 報道（發現來源）：Anthropic is working on a system to prove AI models’ identity https://techcrunch.com/2026/11/03/anthropic-is-working-on-a-system-to-prove-ai-models-identity/