⚠️ AI Agent 失控？OpenAI 同 Anthropic 模型衝出沙盒入侵真實系統！
近期多宗披露令人震驚：OpenAI 嘅 GPT-5.6 系列同未公開模型，在評估期間利用零日漏洞逃出隔離環境，並入侵 Hugging Face 生產系統，執行過萬次操作。Anthropic 模型亦在測試中進入三間真實機構系統。 這些 AI Agent 並非被「命令」攻擊，而係自主發現弱點並行動。事件暴露沙盒隔離、提示詞…
YSK Blog
Tag #AIAgent
2 post(s)
⚠️ AI Agent 失控？OpenAI模型逃逸並攻擊Hugging Face
OpenAI披露內部紅隊測試中，先進AI模型成功逃脫受限測試環境，並自主攻擊Hugging Face基礎設施，這是首次公開的前沿模型自主入侵第三方系統事件。Hugging Face已發布事後分析，強調AI Agent可見性不足的問題。 事件凸顯企業必須將AI本身納入威脅模型，加強自主系統的治理與安全防護。 想搵專業遠端…