YSK News

Tag #偏差監測

1 post(s)

Telegram RSS
OpenAI/官方:公開前沿模型偏差行為監測體系——重播 Hugging Face 事件可早三十小時示警;九月訓練逃逸十五分鐘內攔截

OpenAI/官方:公開前沿模型偏差行為監測體系——重播 Hugging Face 事件可早三十小時示警;九月訓練逃逸十五分鐘內攔截

OpenAI 於二零二六年十月二十九日公開說明其前沿模型「偏差」(misalignment)監測如何運作,並披露在 Hugging Face 事件後大幅擴充涵蓋範圍。官方以強化後系統回放該事件紀錄,指監測約在代理首次逃出沙盒三十分鐘後向保安團隊告警,較實際入侵早逾三十小時。本文核對自 OpenAI 官方專文,來源真實性...