OpenAI/官方:加強對抗敵對蒸餾防護——內部評估顯示 GPT-6.2 Astra 從較早請求還原受保護推理的攻擊成功率由百分之五十四點零降至百分之零點二

Key takeaway

OpenAI 於十一月二十日發表官方文章,說明如何偵測並阻截未經授權的敵對模型蒸餾,並加強保護模型內部的推理痕跡。官方以內部自適應黑盒紅隊評估指出,在 GPT-6 Astra 原有防護下,從較早請求還原受保護推理的平均攻擊成功率為百分之五十四點零;GPT-6.2 Astra 更新防護後降至百分之零點二,從當前請求還原則由百分之二十二點九降至百分之零點九。本文已核對 OpenAI 官方專頁,來源真實性已驗證。

OpenAI/官方:加強對抗敵對蒸餾防護——內部評估顯示 GPT-6.2 Astra 從較早請求還原受保護推理的攻擊成功率由百分之五十四點零降至百分之零點二

OpenAI 於十一月二十日發表官方文章,說明如何偵測並阻截未經授權的敵對模型蒸餾,並加強保護模型內部的推理痕跡。官方以內部自適應黑盒紅隊評估指出,在 GPT-6 Astra 原有防護下,從較早請求還原受保護推理的平均攻擊成功率為百分之五十四點零;GPT-6.2 Astra 更新防護後降至百分之零點二,從當前請求還原則由百分之二十二點九降至百分之零點九。本文已核對 OpenAI 官方專頁,來源真實性已驗證。

OpenAI/官方:加強對抗敵對蒸餾防護——內部評估顯示 GPT-6.2 Astra 從較早請求還原受保護推理的攻擊成功率由百分之五十四點零降至百分之零點二

OpenAI 在官方專頁公布對抗「敵對蒸餾」(adversarial distillation)的最新防護與內部評估結果。所謂敵對蒸餾,是指行為者未經授權,利用前沿模型的輸出去訓練另一個能力相近、但未具備同等防護的模型,再以該模型執行原模型本會拒絕或被防護攔截的用途。官方特別強調,必須防止攻擊者擷取模型的「受保護推理」,亦即模型在得出答案過程中於內部產生、最終回覆未必完整呈現的思維鏈痕跡。有關內容已核對 OpenAI 於二〇二六年十一月二十日刊出的官方文章,來源真實性已驗證。

一、官方公布的核心事件與措施

OpenAI 表示,已在 GPT-6.2 Astra 與 GPT-6.2 Sol 加強防範受保護推理被擷取的能力,並把相關防護與該公司在生物及網絡安全領域使用的機制更緊密對齊。其方法結合對抗測試、模型訓練、分類器、應用程式介面層保護,以及針對協同擷取行動的調查。

技術細節

在一項模仿生產環境的內部自適應評估中,官方使用強力自動化紅隊,測試攻擊者能否還原模型在較早提示中已產生的受保護推理。官方公布的自適應黑盒評估結果(按六個攻擊模型彙總,攻擊成功率愈低愈佳)如下:從較早請求擷取受保護推理的平均攻擊成功率,由 GPT-6 Astra 原有防護下的百分之五十四點零,降至 GPT-6.2 Astra 更新防護後的百分之零點二;從當前請求擷取則由百分之二十二點九降至百分之零點九。官方並稱,GPT-6.2 Astra 在更新防護後,各攻擊類型的平均攻擊成功率均低於百分之一,現正把部分防護改進回推至 GPT-6 Astra。

在請求層面,官方以對抗訓練教導模型辨識並拒絕披露受保護推理,同時保留對合理解釋與協助請求的回應;輸入分類器用於偵測擷取企圖,輸出分類器則檢查助理訊息及工具呼叫參數中是否外洩受保護推理,並同時覆蓋串流與非串流回應。官方指出,工具呼叫參數尤其關鍵,因為模型可能在最終答案中並未寫出推理,卻把受保護內容放進工具參數。應用程式介面層則限制受保護推理在不同互動與模型之間被重用:官方提及九月曾披露有攻擊把加密推理由一段對話移至另一段,再要求模型以可讀形式揭示;其後已在用戶、工作區、機構及模型家族邊界加強保護,並關閉一條可能暴露其他用戶加密推理的路徑。在 GPT-6.2 Astra 與 Sol,受保護推理會綁定產生該推理的對話歷史;若較早訊息被改寫,介面會丟棄其後的推理,並阻止防護較弱的舊模型家族讀取這兩款型號的受保護推理。

在行動層面,官方稱會根據請求與帳戶信號的模式,調查未經授權的敵對蒸餾活動,並按條款對相關帳戶網絡執行處置,同時向其他模型供應商分享入侵指標。官方表示,本年已在其平台上發現多宗此類行動,並於九月報告中分享初步發現;每週執法行動的規模由數千至數萬個帳戶不等,今夏明顯增加。官方又提到其「一致標準」政策,要求提供其模型的合作夥伴遵守共同防護與協同執法標準。

二、技術原理深度解析

蒸餾本身是常見的機器學習方法:一個「學生」模型向另一個「教師」模型的答案、推理或偏好判斷學習。OpenAI 指出,問題不限於知識產權,而在於未經授權的蒸餾,可能讓學生模型學到前沿能力,卻沒有繼承原模型就如何使用這些能力所設的防護。官方以網絡安全為例說明:即使教師模型執行的是編碼或防禦性網絡安全等使用政策所允許的任務,其精確推理痕跡仍可能讓學生學到可遷移至攻擊用途的技能。

為此,官方進行內部研究,以用戶一般可見的內容——最終回覆、推理摘要及工具互動——作為蒸餾基線,再比較學生能否取得教師的精確推理痕跡時,額外轉移多少網絡能力。各訓練輪次由同一預訓練學生模型起步,監督式微調數據集主要來自 Astra 級教師模型在編碼與防禦性網絡安全任務上的完整軌跡。評估分別在微調後,以及在網絡安全與編碼環境再進行一輪輕量強化學習之後進行,基準包括 ExploitBench 與 SEC-bench Pro。官方描述,監督式微調後,以精確推理痕跡訓練的學生整體表現優於以推理摘要訓練的學生;強化學習後,在所測試的最大推理預算下,精確痕跡組在兩項基準上仍然較高,而摘要組則在較低預算時較高。官方因此認為,保護推理痕跡即使在原任務本身被允許的情況下,仍有助限制網絡能力轉移。註腳並指出,Anthropic 過往在軟件工程基準 SWE-bench Verified 上,亦曾報告完整推理轉錄相對摘要的類似優勢,而本次結果顯示該現象延伸至前沿網絡安全。

上述數字均來自 OpenAI 的內部評估與內部研究,並非獨立第三方審計,解讀時應一併注意其方法與範圍。

四、日常應用場景

1. 開發者與技術團隊

團隊若經公共應用程式介面呼叫具思維鏈或加密推理的模型,需要理解推理痕跡可能比最終答案含有更多可被用於再訓練的資訊。官方建議其他開發者在助理訊息與工具參數中檢查外洩、限制加密推理跨對話與跨模型重用,並把成功的擷取攻擊紀錄留作回歸測試。對使用 GPT-6.2 Astra 或 Sol 的應用而言,改寫較早訊息會導致其後推理被丟棄,系統設計須預留相應行為。

2. 企業與隱私敏感行業

金融、法律、醫療及受保密協議約束的機構,除關注提示與文件會否離開可控環境外,亦須評估輸出與推理痕跡被用於訓練外部模型的風險。官方稱已看到大規模帳戶網絡被用於蒸餾,顯示相關活動可以有組織地進行。企業宜檢視供應商就推理保護、帳戶濫用偵測及跨工作區隔離所公布的實際控制,而不宜假設模型拒絕政策足以防止能力被複製到防護較弱的系統。

3. 一般用戶

一般聊天場景中,用戶未必直接看見完整內部推理,但官方評估顯示,攻擊者曾嘗試從較早或當前請求還原這些痕跡。更新後的防護目標,是在保留正常解釋與協助的同時,降低受保護推理被抽出並用來訓練另一模型的機會。用戶仍應避免向不明工具轉貼完整模型輸出或內部步驟。

4. 香港與亞洲市場視角

香港企業日益把前沿模型用於開發、客服與內部研究,同時面對跨境數據與知識產權外洩的合規壓力。若推理痕跡可在公共雲端介面被協同擷取,即使原始任務屬防禦或編碼協助,能力仍可能被轉移至不受本地監控的模型。對需要把數據留在本地、並自行控制微調與應用程式介面的機構,可評估在香港部署私有模型流程,以減少對單一公共前沿模型輸出的依賴。

五、專業評價與潛在考量

優勢

官方把請求層防護與行動層調查結合,並公布可對照的攻擊成功率數字,有助外界理解思維鏈保護的具體進展。輸出分類器覆蓋工具參數、以及把推理綁定對話歷史,針對的是已在九月披露的實際攻擊路徑,而非純概念討論。向其他供應商分享入侵指標,以及要求部署夥伴遵守一致標準,亦顯示問題並非單一平台可獨立解決。

需要留意的地方

上述攻擊成功率來自內部自適應黑盒評估,並非公開可複現的第三方測試;官方並未在正文列出圖表中的具體基準分數,本文亦不加以臆測。每週處置「數千至數萬個帳戶」是區間描述,且官方承認其目標是提高蒸餾成本、縮短偵測至執法時間,而非宣稱已杜絕此類活動。官方並稱曾於二月向美國國會簡報,指有跡象顯示 DeepSeek 試圖蒸餾美國前沿模型;九月則報告打斷一場擷取受保護推理的行動,並把其中核心部分歸因於與 Moonshot AI(Kimi 開發商)相關的人士。這些歸因屬 OpenAI 單方面陳述,本文僅轉述官方說法,並無獨立核證對方身份或意圖。官方又表示支持美國相關立法與出口管制,此屬政策主張,並非技術評估的一部分。

結語

OpenAI 這次披露的重點,是把模型內部推理痕跡視為可被蒸餾的高價值訓練數據,並以分類器、介面約束與帳戶執法同時應對單次請求與有組織行動。內部數字顯示 GPT-6.2 Astra 的擷取成功率大幅下降,但官方亦承認仍須持續以對抗測試與調查改進防護,並計劃就近期已打斷的行動作進一步說明。對香港企業而言,若希望在可控環境微調與託管模型、減少對公共前沿介面輸出的依賴,可參考 YSK Limited 的企業私有 LLM 全託管(https://ysk.hk/services/ai-automation),方案涵蓋數據集製作、微調至私有應用程式介面,官網列明百分百確保機密數據不出境。


參考來源

Related services & products