CrowdStrike/官方:前沿 AI 安全分類器可被「拆題重組」繞過——五百一十五種直接攻擊全數失手,但拆成無害子任務再交小模型組裝,十類攻擊有九類產出可用攻擊程式碼;微軟「能力洗白」研究同步印證
CrowdStrike 網絡超級智能實驗室於十月六日發表研究,指目前公開部署中最先進的前沿模型內容安全分類器,面對約五百一十五種直接繞過技巧時繞過率為零,但只要把有害目標拆成多個本身無害的子任務、逐一包裝成正常軟件工程請求,再交由一個沒有分類器把關的小模型組裝,十類攻擊之中有九類最終產出可運作的攻擊程式碼。 研究強調分...