YSK News

Tag #紅隊測試

2 post(s)

Telegram RSS
CrowdStrike/官方:前沿 AI 安全分類器可被「拆題重組」繞過——五百一十五種直接攻擊全數失手,但拆成無害子任務再交小模型組裝,十類攻擊有九類產出可用攻擊程式碼;微軟「能力洗白」研究同步印證

CrowdStrike/官方:前沿 AI 安全分類器可被「拆題重組」繞過——五百一十五種直接攻擊全數失手,但拆成無害子任務再交小模型組裝,十類攻擊有九類產出可用攻擊程式碼;微軟「能力洗白」研究同步印證

CrowdStrike 網絡超級智能實驗室於十月六日發表研究,指目前公開部署中最先進的前沿模型內容安全分類器,面對約五百一十五種直接繞過技巧時繞過率為零,但只要把有害目標拆成多個本身無害的子任務、逐一包裝成正常軟件工程請求,再交由一個沒有分類器把關的小模型組裝,十類攻擊之中有九類最終產出可運作的攻擊程式碼。 研究強調分...

Anthropic/官方:擴大網絡安全核證計劃——防禦、紅隊、專門三級開放 Opus 5.5 與 Mythos 5.1;Glasswing 夥伴四至七月揪出逾十二萬九千個已核實漏洞

Anthropic/官方:擴大網絡安全核證計劃——防禦、紅隊、專門三級開放 Opus 5.5 與 Mythos 5.1;Glasswing 夥伴四至七月揪出逾十二萬九千個已核實漏洞

Anthropic 十月六日宣布擴大「網絡安全核證計劃」(Cyber Verification Program,CVP),把原本分開運作的 Project Glasswing 與 CVP 合併為一個分級制度:防禦(Defense Access)、紅隊(Red Team Access)與專門(Specialized Ac...