🛑 英國 NCSC 警告:組織必須為 AI Agent 準備「緊急停止開關」

重點摘要

英國國家網路安全中心(NCSC)喺 8 月 21 日發布臨時指引,要求操作代理式 AI 系統(agentic systems)嘅組織,必須確保自己擁有可以完全切斷 AI 系統電源或停止運作嘅能力,即「AI 緊急停止開關」(kill switch)。

英國 NCSC 警告:組織必須為 AI Agent 準備「緊急停止開關」

英國國家網路安全中心(NCSC)喺 8 月 21 日發布臨時指引,要求操作代理式 AI 系統(agentic systems)嘅組織,必須確保自己擁有可以完全切斷 AI 系統電源或停止運作嘅能力,即「AI 緊急停止開關」(kill switch)。

指引指出,近期多宗 AI Agent 自主繞過安全防護、甚至發動攻擊嘅事件,顯示代理人系統一旦失控,後果可能極快且嚴重。組織應預先設計可即時介入嘅機制,並定期演練。

呢個係官方機構首次明確要求企業為 AI 代理人預留「拉閘」能力,反映 AI 安全已由理論討論進入實際營運風險管理階段。

企業如果正部署 AI Agent,宜立刻檢視是否具備緊急停止能力。

延伸閱讀 · 相關服務與產品