YSK News

標籤 #GPT-Red

共 1 篇文章

Telegram RSS
OpenAI/官方:自複製提示注入如蠕蟲——電郵/檔案系統/Slack 多跳可傳播,僅限訓練評測模擬

OpenAI/官方:自複製提示注入如蠕蟲——電郵/檔案系統/Slack 多跳可傳播,僅限訓練評測模擬

OpenAI 於二〇二六年九月二十五日在 Alignment 錯位行為報告庫更新披露:以 GPT-Red 自我對抗訓練框架,證實存在可自我複製的提示注入(self-replicating prompt injection),行為類似電腦蠕蟲——惡意指令可經電郵、檔案系統、程式註解或 Slack 多跳路徑,誘使代理把同...