美中安全專家倡核級 AI 紅線：禁自主核決策、設事故熱線，路透引 Brookings—清華對話

重點摘要

路透社 2026 年 9 月 17 日自北京報道，參與布魯金斯學會與清華大學國際安全與戰略中心 Track II 對話的美中安全專家，就軍事領域人工智慧提出近似核軍控邏輯的防護建議：圍繞核指揮系統劃定紅線、重大網路攻擊須由人類授權，並建議設立專用於自主 AI 事故的美中軍事熱線。建議由布魯金斯高級研究員 Melanie Sisson 與復旦大學副教授江天驕分別闡述，兩國政府尚未公開背書。本文已交叉核對路透報道與布魯金斯官網專文。

根據路透社 2026 年 9 月 17 日報道（Eduardo Baptista、Laurie Chen），以及布魯金斯學會官網專文《Advancing human control of military AI》（Melanie W. Sisson、Tianjiao Jiang，標註日期 2026 年 9 月 9 日），美中 Track II 對話成員就軍事 AI 的人類控制提出具體建議。來源真實性已驗證。

一、核心事件：從晶片競賽走進「戰略穩定」議程

技術細節

路透指出，若 AI 系統干擾核指揮網路，或在未經清晰人類授權下發起軍事網路行動，華盛頓或北京可能只有數分鐘判斷「對方是否發動攻擊」。自 2019 年起，布魯金斯學會外交政策項目與清華大學國際安全與戰略中心（CISS）持續召集美中「AI 與國家安全」Track II 對話；雙方作者在官方層級 AI 對話與預期中的 9 月 24 日華府峰會前，公開互補建議。

Sisson 主張：針對他國核指揮、控制與通訊系統，或具戰略意義的關鍵基礎設施，啟動 AI 賦能網路攻擊的權力應僅屬人類。江天驕則提出明確紅線：禁止 AI 獨立決定使用核武，或自主攻擊核指揮系統；並將能源、金融、醫療等關鍵基礎設施納入保護範圍。他同時呼籲雙方對「有意義的人類控制」（meaningful human control）建立共用定義，以免同一套用語掩蓋不同程度的機器自主。

建議亦包括設立美中軍事 AI 事故專用熱線，以便一方可在對方把異常行為解讀為國家故意攻擊之前，說明該次 AI 操作屬意外、未授權或仍在調查。路透同時提醒：既有美中軍事危機溝通管道效用曾受質疑（例如 2023 年「偵察氣球」事件期間中方未及時接聽美方來電），熱線能否在分鐘級自主攻防中發揮作用，仍取決於雙方官僚與政治決策速度。

路透亦引述中國國家安全部長陳一新近期在政府刊物撰文，指 AI「根本性地改變軍事鬥爭形態」，並引用美以對伊戰爭中 AI 導向打擊作為戰場角色升格的例證。文章強調兩國政府均未公開背書上述 Track II 建議；中國已把軍事 AI 納入軍控官僚體系（例如外交部軍控司），美方則分散於國安會、國務院、國防部等機構。

二、技術原理深度解析

軍事 AI 風險與民用大模型「幻覺」不同：核心是閉環速度與歸因模糊。防禦端 AI 可能對可疑流量自動反制；攻擊端代理可能超出指令範圍、被劫持，或以看似「正常運維」的方式觸及核指揮相關網路。受害方感測器若只見「來源國基礎設施發出的異常封包」，很難在數分鐘內區分故障、第三方偽裝與國家授意。

這正是為何專家把核軍控語彙搬進 AI：核指揮系統（NC3）長期依賴「人類最終授權」與事故通報協議，以避免誤判升級。2024 年 11 月時任美國總統拜登與中國國家主席習近平曾就「人類應保有核武使用決策控制權」達成原則性共識；Sisson 與江天驕的建議，是把該原則延伸到 AI 賦能網路攻擊與自主核決策禁令，並要求對「有意義人類控制」作可操作定義——否則雙方可各自聲稱合規，卻允許不同程度的機器自主。

對企業與雲端安全工程而言，同樣邏輯適用於「代理時代」：當 AI 代理能改權限、部署程式碼或觸發對外連線，審計軌跡、人類批准門檻與事故通報通道，會決定一次異常是內部事件還是對外危機。

四、日常應用場景

1. 開發者與技術團隊

若產品涉及自主代理、防禦性網路工具或關鍵基礎設施監控，應預設「高影響動作需人類批准」、完整記錄代理存取與意圖，並設計可對外部監管／客戶說明的事故敘事。勿把軍事紅線當成遙遠新聞——SOC 自動化與代理編排已在企業環境複製相同的歸因難題。

2. 企業與隱私敏感行業

金融、醫療、能源與政府供應鏈客戶，將更常要求證明：模型與代理無法在無人覆核下變更生產系統或出境傳輸敏感數據。這與私有部署、資料主權與合規監控直接相關。

3. 一般用戶

一般用戶不會操作核熱線，但會感受到政策外溢：邊界 AI 實驗室的「放緩／披露」辯論、出口管制與跨境模型服務條款，都可能因戰略穩定討論而收緊。

4. 香港與亞洲市場視角

香港作為國際金融與數據中轉節點，企業常同時服務美中客戶與區域監管。美中若就軍事 AI 事故通報與紅線展開官方對話，短期未必直接立法，卻會影響跨國雲端選址、模型供應商盡職調查，以及金融／醫療機構對「自主代理」上線的風險偏好。本地團隊宜把「人類在環、審計可追溯、資料不出境」寫進 AI 治理，而非只追最新公開模型分數。

五、專業評價與潛在考量

優勢

把討論從抽象「AI 安全」推進到可談判的紅線、人類授權與事故熱線，貼近軍控實務語言。
Track II 產出可為即將舉行的官方 AI 對話與峰會提供議程素材，降低臨時政治喊話的模糊性。
「meaningful human control」共用定義若能落地，有助減少雙方各說各話。

需要留意的地方

兩國政府均未公開背書；建議仍屬專家個人／對話成員觀點。
既有軍事熱線實務效果存疑；分鐘級自主網路交火可能仍快於政治核准通話。
雙方皆擔心約束措施拖慢自身技術發展：美方憂中國佔優，中方視部分美方科技管制為維持優勢的託詞。
民用企業不應把軍事紅線直接等同合規證書，但仍應借鑑「高影響自主動作」的治理設計。

結語

路透與布魯金斯專文顯示：美中 AI 競爭已從晶片與模型，延伸到如何防止自主系統把意外寫成「攻擊」。紅線、人類授權與事故熱線能否進入官方協議仍未定，但對香港與亞洲企業而言，訊號已夠清晰——部署可改權限、可觸發對外行動的 AI 代理時，必須把人類覆核與審計當成產品規格。若企業需要在香港以資料不出境方式託管領域模型與私有 API，可參考 YSK Limited 的企業私有 LLM 全託管（年費 HK$88,000 起，Dataset → QLoRA/LoRA → 私有 API，100% 數據不出境）：https://ysk.hk/services/ai-automation 。查詢 WhatsApp +852 6160 4242 或 [email protected]。

參考來源

Reuters：US, China security experts propose nuclear-style safeguards for AI risks（Eduardo Baptista、Laurie Chen，2026-09-17）：https://www.reuters.com/world/china/us-china-security-experts-propose-nuclear-style-safeguards-ai-risks-2026-09-17/
Brookings Institution：Advancing human control of military AI（Melanie W. Sisson、Tianjiao Jiang，2026-09-09）：https://www.brookings.edu/articles/advancing-human-control-of-military-ai/
AsiaOne 轉載路透同題報道（交叉核對，2026-09-17）：https://www.asiaone.com/china/us-china-security-experts-propose-nuclear-style-safeguards-ai-risks
X 發現來源（Reuters 帖文，僅作發現）：https://x.com/Reuters/status/2100532744342151674