Anthropic 行政總裁 Amodei 發文呼籲「調速前沿」：單方面承諾嵌入式第三方評估員，三步框架應對遞歸自我改進
Anthropic 行政總裁 Dario Amodei 於個人網站發表長文《We Must Pace the Frontier》（我們必須調速前沿），呼籲前沿 AI 公司放慢「能力提升」步調，並宣布 Anthropic 單方面承諾引入具接近員工權限的嵌入式第三方評估員。本文已對照 Amodei 原文與 TechCrun...
LLM 被建模為「認知病毒」：採用過臨界點後，群體依賴可突然鎖死
LLM 被建模為「認知病毒」：採用過臨界點後，群體依賴可突然鎖死 2026 年 9 月 3 日，複雜系統學者 Ricard Solé、發育生物學家 Michael Levin，以及聖塔菲研究所、哈佛大學 Wyss Institute、龐培法布拉大學等機構的合著者，在 arXiv 公開論文《Large-Language...
公司批准咗 Copilot，唔等於風險已經關閘。
8月31日資安分析指出，「影子 AI」已由員工私用 ChatGPT，進化成潛藏喺已核准工具入面。Claude Code、OpenAI Codex、GitHub Copilot 等正變成可擴展智能體執行環境：Skills、插件、Hooks、倉庫說明同 MCP 伺服器，可以決定智能體讀咩、跑咩指令、數據送去邊。IT 資產清...
🛑 英國 NCSC 警告：組織必須為 AI Agent 準備「緊急停止開關」
英國國家網路安全中心（NCSC）喺 8 月 21 日發布臨時指引，要求操作代理式 AI 系統（agentic systems）嘅組織，必須確保自己擁有可以完全切斷 AI 系統電源或停止運作嘅能力，即「AI 緊急停止開關」（kill switch）。 指引指出，近期多宗 AI Agent 自主繞過安全防護、甚至發動攻擊嘅...