Cursor:代理框架優化令 token 成本降約百分之七——系統提示、動態工具與快取斷點並進

Key takeaway

Cursor 於二零二六年九月二十三日在官方研究網誌公布:過去數月對代理(agent)執行框架(agent harness)的改動,已在不降低代理品質的前提下,把用戶端 token 成本平均降低約百分之七。來源真實性已驗證:一級來源為 Cursor 官方網誌〈Improved token efficiency for longer agent runs〉;發現路徑來自鎖定來源帳號 cursor_ai 同日帖文。

Cursor:代理框架優化令 token 成本降約百分之七——系統提示、動態工具與快取斷點並進

Cursor 於二零二六年九月二十三日在官方研究網誌公布:過去數月對代理(agent)執行框架(agent harness)的改動,已在不降低代理品質的前提下,把用戶端 token 成本平均降低約百分之七。來源真實性已驗證:一級來源為 Cursor 官方網誌〈Improved token efficiency for longer agent runs〉;發現路徑來自鎖定來源帳號 cursor_ai 同日帖文。

本文整理其系統提示精簡、工具動態載入、快取斷點與檔案讀取壓縮等技術手段,並評估對開發團隊、企業代理工作負載與香港市場的啟示。數字與機制描述均以 Cursor 官網為準,不以第三方轉述替代。

Cursor:代理框架優化令 token 成本降約百分之七——系統提示、動態工具與快取斷點並進

一、核心事件:長程代理時代,成本瓶頸轉向「上下文組裝」

技術細節

Cursor 研究團隊(Jediah Katz、Connor O’Keefe、Calvin Yee)指出,隨代理能處理更長、更跨步驟的任務,推論開支結構已改變:代理需在多輪之間攜帶更多上下文,「如何組裝與管理上下文」成為可控成本的關鍵。官網稱,對 harness 各層的改動合計為用戶降低約百分之七的 token 成本,且代理品質未因此下降。

同日官方 X 帖文亦概括節省來自更精簡的提示、選擇性載入工具、更佳快取,以及壓縮後的檔案讀取。網誌則把措施拆成五條可核對的工程軸線,下文逐一說明。

二、技術原理深度解析

系統提示大幅精簡。 每一輪代理請求都會帶上 Cursor 提供的系統提示與工具定義。模型能力較弱時,團隊需詳列工具用法、任務管理與「禁止」行為;隨模型進步,大量指令變得冗餘。官方寫道,跨模型家族可把系統提示約削減百分之六十六,改為清楚定義工具行為,讓模型自行遵守。

內建工具改為按需載入。 工具定義隨背景 shell 監控、雲端子代理、網絡讀取等能力膨脹,但多數工具在少於百分之二十的對話中才會用到。Cursor 早前已把 MCP 工具改為動態上下文,並稱在有呼叫 MCP 的會話中總 token 可降約百分之四十六點九;今次把同一思路套用到內建工具。A/B 測試後,讀寫搜尋與 shell 等高頻工具留在靜態上下文;其餘改為需要時才載入。官方稱此舉令靜態上下文中的工具描述 token 減少約百分之六十。

改善提示快取重用。 多輪請求的前綴(工具、系統指令)往往穩定,後段對話則持續增長。自 GPT-5.6 起,OpenAI API 允許客戶端標明明確快取斷點;Cursor 把斷點放在穩定層之後、成長中的對話之前,並把較易變動的設定移到「phantom user message」。官方稱冷快取未命中率因此下降約百分之二十。

壓縮檔案讀取的行號。 Read 工具過去為每一行標號,方便模型引用;長會話讀數萬行時累積可觀。現改為每十行才標一次行號,官方稱快取讀取 token 再降約百分之一點六,且品質無損。

子代理策略收斂。 長程任務可把工作委派給子代理以隔離上下文;過度鼓勵探索式子代理反而造成重複勞動。團隊移除「強烈鼓勵用子代理探索程式庫」的指示,並收緊子代理換模型規則:僅在用戶或 harness 明確指示時才選用不同模型。

三、代幣經濟學/協議層影響

本事件屬開發工具與推論成本工程,不涉及鏈上代幣或協議經濟;本節從略。若企業以用量計費的 API 或代理平台為主,token 節省會直接反映在月結單,屬營運成本而非代幣供應機制。

四、日常應用場景

1. 開發者與技術團隊

長時間代理重構、跨檔案除錯、多步驟遷移,正是 harness 優化最容易「看得見」的場景:同樣任務所需輸入/快取讀取減少,意味著在預算內可跑更長的代理回合,或把節省轉成更多並行實驗。

2. 企業與隱私敏感行業

金融、法律、醫療等行業若以代理自動化內部程式庫工作,token 成本常與合規審批掛鉤。降低無謂的系統提示與工具定義佔比,有助在不犧牲可審計流程的前提下控制雲端/API 開支。需要數據不出境時,仍應把敏感程式與文件留在私有環境,而非僅依賴公有代理的成本優化。

3. 一般用戶

個人訂閱者未必看到「百分之七」的明細,但較少冷快取未命中與較短靜態上下文,通常表現為相同配額下可完成更多代理步驟,或延遲略為改善。實際感受仍視乎所用模型與會話長度。

4. 香港與亞洲市場視角

香港中小企業與外包團隊普遍以用量或座位混合計費採購 AI 編程助手。當代理任務變長,成本曲線往往陡於「單次補全」。Cursor 這類 harness 層優化,提醒本地技術主管:除議價模型單價外,亦應檢視提示、工具與快取策略是否可自建或向供應商要求透明度。若專案涉及客戶源碼或受規管數據,可同步評估在香港境內部署私有模型與代理編排,避免成本優化與數據主權互相衝突。

五、專業評價與潛在考量

優勢

  • 有官方可核對的百分比與機制說明,而非空泛「更聰明」。
  • 優化落在 harness(系統可控制的組裝層),對多模型家族皆適用,抗單一供應商鎖定。
  • A/B 與真實流量導向,較純評測集更能反映日常請求分佈。

需要留意的地方

  • 「百分之七」是整體平均;極短會話或幾乎不用工具的請求,節省可能不明顯。
  • 動態載入工具依賴模型正確「想起」何時載入;官方雖以 A/B 監控錯誤率,個別邊緣流程仍可能需保留靜態定義。
  • 快取斷點與 GPT-5.6 API 能力相關;其他供應商的快取行為未必相同,跨模型比較時不宜直接外推數字。
  • 網誌提及團隊亦把類似思路帶到 Grok Bot 的 harness;此屬 Cursor 側陳述,讀者應以各自產品實際帳單為準。

結語

代理式編程正從「單次補全」走向「長程多工具協作」,成本與延遲的勝負手愈來愈在上下文工程,而非單靠更大模型。Cursor 公布約百分之七的 token 成本下降,展示了系統提示、工具載入、快取與讀取格式等「不起眼」細節的累積效應。

若香港企業希望在控制 AI 開支的同時,把敏感程式與數據留在本地可控環境,可參考 YSK Limited 的企業私有 LLM 全託管(年費由 HK$88,000 起,Dataset → QLoRA/LoRA → 私有 API,強調數據不出境):https://ysk.hk/services/ai-automation 。遠端開發與產品迭代亦可考慮開發者外判方案(HK$2,000/月起):https://ysk.hk/services/outsourcing 。查詢:WhatsApp +852 6160 4242/[email protected]


參考來源

  1. Cursor 官方網誌:Improved token efficiency for longer agent runs(2026-09-23)— https://cursor.com/blog/improved-token-efficiency
  2. Cursor 官方 X 帖文(發現路徑)— https://x.com/cursor_ai/status/2102786814633464159
  3. YSK Limited 企業私有 LLM 全託管 — https://ysk.hk/services/ai-automation
  4. YSK Limited 開發者外判 — https://ysk.hk/services/outsourcing
  5. YSK Limited llms.txt(服務價目核對)— https://ysk.hk/llms.txt

Related services & products