Google/官方:推出 Physical-Engineering's Last Exam——八十五項真實工程任務評測前線代理;頂尖約四成八;硬性安全關卡僅約四成一過關

重點摘要

Google Cloud 官方於二零二六年十一月三日公布 Physical-Engineering's Last Exam(PLE):與 Mercor 合作的新基準與公開競賽,以機械、電機、土木與結構等真實工程專案資料夾,測試前線 AI 代理能否產出通過硬性安全與可行性關卡的設計;私有測集上所有受測模型平均分數均低於五成,表現最佳者約四成八,且僅約四成一交付物通過全部硬性安全檢查。本文已核對官方原文,來源真實性已驗證。

Google/官方:推出 Physical-Engineering's Last Exam——八十五項真實工程任務評測前線代理;頂尖約四成八;硬性安全關卡僅約四成一過關

Google Cloud 官方於二零二六年十一月三日公布 Physical-Engineering's Last Exam(PLE):與 Mercor 合作的新基準與公開競賽,以機械、電機、土木與結構等真實工程專案資料夾,測試前線 AI 代理能否產出通過硬性安全與可行性關卡的設計;私有測集上所有受測模型平均分數均低於五成,表現最佳者約四成八,且僅約四成一交付物通過全部硬性安全檢查。本文已核對官方原文,來源真實性已驗證。

Google/官方:推出 Physical-Engineering's Last Exam——八十五項真實工程任務評測前線代理;頂尖約四成八;硬性安全關卡僅約四成一過關

教科書式問答與短工具呼叫,已難以反映「會不會做安全、合規、可施工的實體工程」。Google AI & Infrastructure 團隊於二零二六年十一月三日在 Google Cloud Blog 宣布推出 Physical-Engineering's Last Exam(PLE),並與 Mercor 合作,把評測場景換成接近執業工程師接到的專案資料夾;官方同步公開二十九項公開任務、評分工具與競賽排行榜。來源真實性已驗證。

一、核心事件:從「會答題」換成「會交可過關的工程交付」

技術細節

PLE 定位為面向前線模型與代理系統的基準與公開競賽,衡量模型能否完成機械、電機、土木與結構工程任務。官方對照既有考試譜系:Humanity's Last Exam 偏一般知識,Agents' Last Exam 偏數位專業工作,PLE 則針對實體工程能否產出「安全且符合規範」的成果。

基準共八十五項長程任務,按學科分為:機械三十項、電機二十七項、土木十八項、結構十項。代理並非只回一句答案,而是在容器化專案資料夾中工作——環境建基於 Mercor 的 Archipelago,模擬執業工程師日常收到的材料。每項任務平均約六十一個檔案,全基準合計約五千一百七十個檔案,涵蓋 PDF、試算表、電郵、二維 CAD、三維 BIM 等。

任務來源採兩路建構:四十四項由執業工程師撰寫專案資料夾、提示與評分尺規;四十一項由工程師先定題,再由代理流水線依可授權工程標準組裝環境與評分器,最後由工程師驗證並加難。評分強調合規與成本效率:代理須先通過每一道硬性安全檢查,才計算分數。

基線結果顯示現況與實務仍有明顯落差:私有測集上,所有前線模型分數均低於五成;在原生 harness 上表現最高者平均約四成八點三。硬性安全關卡方面,最佳配置在共構任務上可滿足約九成一個別約束,但只有約四成一點三的交付物通過全部硬性安全與可行性檢查。模型選擇對分數影響遠大於 harness(模型間差距可達約五十分,同一模型跨 harness 的中位差距約三分),不過 harness 會顯著影響執行成本。官方測試了十四個前線模型,並使用七個公開代理 harness:Antigravity、Claude Code、Codex、Hermes、OpenCode、OpenHands 與 Pi。

公開資源方面,二十九項公開任務、評分腳本與評估容器可自 GitHub 倉庫 google-research/ple 下載;私有測集可於 ple-bench.com 提交評估。官方亦提到十三個由 Google 贊助、可於其伺服器免費跑分的模型,以及後續獎金細節。相關技術說明可見 arXiv 預印本(編號 2610.30537)。

二、技術原理深度解析

實體工程代理要同時處理三類困難:第一是多模態、多檔案的長程脈絡——規範條文、圖面、電郵約束與成本假設散落在數十個檔案;第二是「硬安全門」——只要有一項關鍵約束未過,整份交付就不及格,這與許多只累加部分分數的學術基準不同;第三是成本與可施工性——設計不但要對,還要在材料與可行性上站得住。

把環境固定成容器化專案資料夾,等於把評測從「模型會不會講工程術語」改成「代理會不會在真實工件上迭代並交出可自動評分的成果」。硬安全門優先於分數,是刻意模擬執業紅線:結構或電機設計若違反強制安全條件,不能用平均分掩蓋。公開二十九題與私有測集的雙層設計,則讓研究社群可本地複現,同時保留未洩題的排行榜壓力,減少「只為公開集過擬合」的誘因。

對企業導入代理的啟示是:若內部驗收仍以示範對話或單次工具呼叫為主,很容易高估代理人在 CAD/BIM/規範交叉檢查上的可靠度;應把「必須全數通過的安全/合規檢查清單」寫進評測與上線閘門,而不是只看通過率平均值。

四、日常應用場景

1. 開發者與技術團隊

建造工程助手、BIM/CAD 協作代理或內部「設計審查 bot」的團隊,可用 PLE 公開集作為回歸基準:固定 harness 與模型版本,追蹤硬安全通過率與單位成本,而不是只盯聊天正確率。把自家規範摘要、圖層慣例與禁區清單做成可機器檢查的 grader,比只做 prompt 調校更能暴露失敗模式。

2. 企業與隱私敏感行業

顧問工程行、發展商與設備商若評估「代理寫計算書/出圖說明」,應要求供應商出示類似硬安全門的驗收:哪些約束是一票否決、失敗時如何人工覆核、設計資料是否可留在私有環境。對機密圖則與業主資料,宜優先考慮私有或專屬部署的模型與工具鏈,避免把未脫敏專案檔直接送進公用對話介面。

3. 一般用戶

一般消費者較少直接跑 PLE,但仍可把結果讀成警訊:目前前線代理在真實工程專案上的平均表現仍明顯低於「可放心自動出圖」的門檻。涉及結構安全、電力與公共工程的決定,仍須持牌專業人士把關;AI 產出應視為待驗證草稿。

4. 香港與亞洲市場視角

香港基建、樓宇設備與工業系統專案文件同樣以多檔圖則、規範引用與往來電郵為主,與 PLE 的資料夾型任務相近。本地團隊若要導入代理協助估算、規範對照或文件整理,可先用公開基準建立內部紅線,再決定是否把工作流接到私有模型。評估香港私有 LLM 託管與 AI 自動化落地時,可參考 YSK Limited 的相關服務(https://ysk.hk/services/ai-automation),以官網刊載方案協助把資料留在可控環境並設計可驗收的代理流程。

五、專業評價與潛在考量

優勢

  • 官方公開基準,任務贴近執業工程師的多檔案專案,而非純選擇題
  • 硬性安全關卡優先計分,直接暴露「看似高分、實則未過關」的風險
  • 公開二十九題加 GitHub 容器,利於複現;私有測集與排行榜保留競賽壓力
  • 同時報告模型與 harness 的影響,提醒工程團隊不要只換外殼不換模型能力
  • 對香港企業導入代理具有可轉用的驗收語言:全數通過的安全/可行性檢查

需要留意的地方

  • 基線為官方公布之測試設定,實際分數會隨模型、harness、提示與工具權限而變,不宜外推成所有產品的永久排名
  • 八十五題覆蓋四個學科,並非涵蓋所有工程領域(例如岩土、消防專篇等仍可能不足)
  • 公開集與私有集分離後,對外行銷數字仍須核對是否同一測集與同一評分規則
  • 代理通過基準≠可在受規管工程中自動蓋章;法律責任與持牌要求不變
  • 競賽獎金與免費跑分模型名單以 ple-bench.com 後續公告為準

結語

PLE 把 AI 代理評測從「會不會答工程題」推向「能不能在真實專案資料夾裡交出通過硬安全門的設計」。官方基線顯示前線模型仍普遍低於五成、全部硬關卡通過率更低,說明實體工程自動化仍需嚴謹的驗收與人工覆核。對香港技術決策者而言,與其一味追新模型名稱,不如先建立可機器檢查的安全/合規閘門,再選擇合適的私有或混合部署。若需評估私有 LLM 託管、代理工作流或 AI 自動化落地,可瀏覽 https://ysk.hk/services/ai-automation ,或經 WhatsApp +852 6160 4242、[email protected] 聯絡 YSK Limited。


參考來源

延伸閱讀 · 相關服務與產品