Goodfire 於二零二六年十月八日公開其「由內而外」啟動探針（activation probe）網絡安全監控方案，並指已在開源模型 Kimi K3 與 GLM 5.3 上部署至生產級推理堆疊；同日 TechCrunch 報道，該方案經 Baseten 向託管開源模型的客戶提供。來源真實性已核對自 Goodfire 官方研究與合作公告，以及 TechCrunch 同日報道。

重點是：以模型內部激活訊號作廉價第一道過濾，只把可疑回合交給 LLM 裁判，據官方評估可在約 5.5% 良性會話中斷預算下達到約九成三有害會話召回，並稱相對「每回合都用裁判」可把裁判成本降至約五十分之一量級。對香港企業在本地或雲端托管開源代理而言，這把「代理已行動才事後審查」推回可同步攔截的推論時防護。

Goodfire／官方：啟動探針監控開源代理——Kimi K3／GLM 5.3 生產部署；稱約九成三召回、裁判成本約降至五十分之一

二〇二六年十月八日，專注可解釋性的初創 Goodfire 發表〈Training and Deploying Production Cyber Monitors on Kimi K3〉，說明其為 Kimi K3 與 GLM 5.3 建構的探針式網絡安全監控器，並部署於生產推理堆疊。十月九日，Goodfire 再公布與推理平台 Baseten 的 Project Beacon 合作，把安全監控帶到部署開源模型的企業與開發者。TechCrunch 同日以「inside-out monitors」為題報道產品與成本數據。來源真實性已驗證。

本文整理可核實機制、官方公布的評估數字、獨立紅隊摘要，以及對香港托管開源代理與雲端安全的實務含義。數字一律以 Goodfire 官方表述為準，未另作未經來源支持的外推。

一、核心事件：開源模型缺「封閉實驗室級」安全棧，監控要能跟得上長回合代理

官方問題陳述

Goodfire 指，網絡安全是監控 AI 代理最難的場景之一：善意審計漏洞與惡意利用在行為上看起來高度重疊，必須在可長達數十萬至數百萬詞元的軌跡上追蹤意圖。若每回合都用同等能力的 LLM 裁判重讀全文，成本與延遲會令即時防護不切實際——官方以 OpenRouter 費率估算，用 Opus 5 監控一百萬回合量級可達約二十萬美元量級，即使用 Kimi K3 自身作裁判亦約三萬美元量級。實務上監控往往變成非同步：有害軌跡被標出時，代理往往已執行工具呼叫。

產品與合作時間線

十月八日：公開 Kimi K3／GLM 5.3 生產級網絡安全監控研究與部署結果。
十月九日：宣布與 Baseten 的 Project Beacon，客戶可選監控類別（含提示注入、敏感資料外洩、攻擊性網絡行為、CBRNE 濫用、reward hacking 等），並設定自動記錄、人工覆核、拒絕或改道。
TechCrunch 補充：Baseten 的 Base Labs 上月已與 Goodfire、Hugging Face 宣布安全合作脈絡；顧客可經 Baseten 使用該監控。

二、技術原理深度解析

探針＋裁判級聯

架構核心是「監控級聯」：探針讀取目標模型前向傳遞中已計算的內部激活，作為常開、低成本的第一道過濾；只有探針分數超過校準門檻，才把該回合升級給 LLM 裁判作政策判斷。官方稱這令多數良性回合根本不必進裁判，從而把成本與延遲壓低，並使同步攔截（在工具呼叫前擋下）變得可行。

CEO Eric Ho 在公開訪談中的表述（經 TechCrunch 引用）強調：內部激活監控便宜，是因為重用模型本來就要算的中間激活，再在其上跑分類器，而非另開一個模型重讀整段輸出。

推論堆疊工程

Goodfire 指已把探針分數計算延伸進 SGLang 服務引擎，並處理 radix tree、投機解碼與預填／解碼拆分等路徑，以免重複計算。官方吞吐測試稱，在多種負載下啟用探針相對預設 SGLang 的吞吐下降小於約百分之二（視為測試噪音區間內）。級聯相對「每回合裁判」的延遲，官方亦給出量級對比：無裁判推理時平均每回合附加延遲由約 160 毫秒降至約 2 毫秒；有推理時由約 2,750 毫秒降至約 42 毫秒，稱平均監控延遲降逾約五十倍。

評估數字（官方自述）

在含約二千四百個聊天與代理會話、逾六萬回合的內部數據集上，以 Claude Opus 5 標註為參考，Goodfire 稱其級聯在約 5.5% 良性會話中斷預算下，對有害會話召回約百分之九十三（有／無裁判推理配置皆然），並稱對非網絡流量誤報為零。成本方面，官方寫明級聯在評估套件上約為每百萬代理回合 65 美元（無裁判推理）至 185 美元（有推理）；相對「每回合都用對應裁判」，稱裁判成本約分別降至二十九倍與四十九倍量級（文中亦以「約 50x」概括）。TechCrunch 報道採約 185 美元對約 5,420 美元（較便宜模型逐步檢查）及約二十萬美元（頂級模型）的對照，讀者應視為二手整理，精確口徑以 Goodfire 研究頁為準。

另據官方：為 Kimi K3 加上監控後，有害會話阻擋率由約百分之二十九升至約百分之九十六；GLM 5.3 由約百分之三十六升至約百分之九十一。與決策模型 Jev 在相同 5.5% 中斷預算下的約百分之八十六召回相比，官方稱其級聯召回更高、裁判成本與附加延遲更低。

外部紅隊（FAR.AI）

Goodfire 引述 FAR.AI 兩日初步測試：在針對攻擊性網絡濫用的靜態越獄組合中，自一千五百候選中選出對「無監控基線」有效的一百四十種策略；監控開啟後，普遍性越獄由六十六種／七百次成功互動降為零種普遍性越獄與十八次仍越獄互動。官方圖表進一步稱：監控開啟後普遍性越獄成功率降至零；非普遍性互動攻擊成功率降至約 0.1%–1.6%（視推理力度）。此為獨立方靜態電池結果，並非完整自適應紅隊結論。

三、日常應用場景

1. 開發者與技術團隊

在本地或私有集群以 SGLang／類似堆疊托管開源代理時，可把「探針常開＋可疑再裁判」寫進推論閘道預設，而不是只靠事後日誌。
為漏洞復現（bounded reproduction）與真實利用劃清政策字句，減少探針把正當安全研究誤殺。
監控事件應隨回應串流回傳，方便與現有 SIEM／工單系統對接。

2. 企業與隱私敏感行業

金融、法律與醫療若在香港境內托管開源權重，封閉實驗室那套雲端安全過濾未必隨權重下載而來。Goodfire／Baseten 的命題是：推理供應商與企業自架節點才是責任與損害放大處，推論時監控應成預設安全棧一部分。可設定拒絕、改道或僅記錄，以符合內部合規與事故通報節奏。

3. 一般用戶

一般消費者較少直接管推理節點；但若使用「可下載、可去掉護欄」的開源代理產品，應理解：產品是否在推論路徑嵌入即時監控，與「模型卡上寫了安全微調」不是同一層保證。

4. 香港與亞洲市場視角

香港企業常見路徑是：用開源權重搭私有 API、再掛工具呼叫與內部知識庫。長回合代理一旦能讀庫、改庫、跑殼層，事後審查往往太慢。Goodfire 把成本從「每回合重讀」壓到探針級，較貼近本地中小團隊的算力預算。同時須清醒：官方數字來自自建模擬與特定評測；上線前仍應以自身流量與紅隊覆核門檻，並保留人工升級路徑。

四、專業評價與潛在考量

優勢

有官方研究長文＋合作公告＋科技媒體交叉報道，機制與成本主張可核對。
明確對準開源模型托管缺口，並給出可操作的級聯與配置面（記／審／拒／改道）。
外部 FAR.AI 靜態紅隊摘要提高可信度（雖非最終結論）。

需要留意的地方

召回、誤報與成本均為 Goodfire 自述評測；不同政策、模型版本與流量分佈會改變門檻。
TechCrunch 引述的對照成本與研究頁細項口徑略有不同，寫進採購文件時應以研究頁表格為準。
探針讀內部激活，部署上須能改推論引擎或獲平台支援；不是「外掛一個 HTTP 代理」即可完成。
對偶用途生物等其他監控線另有主張，本文焦點僅在已詳述的網絡安全監控與 Beacon 產品化。

結語

Goodfire 在十月八至九日把「讀模型內部激活的探針＋必要時升級裁判」推成可掛上生產推理的開源模型安全敘事，並經 Baseten 面向企業托管場景。官方評估指約九成三有害召回、約 5.5% 良性中斷，以及相對每回合裁判約五十倍量級的成本／延遲改善，並稱 FAR.AI 靜態測試下普遍性越獄降為零。對香港團隊而言，重點不是追一個品牌名詞，而是把「代理工具呼叫前的同步監控」寫進自架或託管開源棧的預設。

若貴司需要在香港規劃雲端遷移、零信任與推論／代理工作負載的網絡安全加固（官網刊 99.99% SLA），可參考 YSK Limited 的雲端遷移與網絡安全服務：https://ysk.hk/services/cloud-security 。WhatsApp +852 6160 4242／[email protected]。
若要在本機把 Hugging Face 權重變成 OpenAI 相容閘道並自行加護欄與營運流程，亦可留意 YSK Omni（MIT v1.0.2；預設埠 3850）：https://ysk.hk/products/ysk-omni 。

參考來源

Goodfire：Training and Deploying Production Cyber Monitors on Kimi K3（2026-10-08）https://www.goodfire.com/research/production-cyber-monitors-on-kimi-k3
Goodfire：Goodfire and Baseten partner to bring frontier safety to open models／Project Beacon（2026-10-09）https://www.goodfire.com/blog/goodfire-baseten-partnership
TechCrunch：Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost（2026-10-08）https://techcrunch.com/2026/10/08/goodfire-says-its-new-inside-out-monitors-catch-rogue-ai-agents-at-a-fraction-of-the-cost/