Vercel AI Gateway:開權重模型八月首度佔逾半流量——均價連跌三個月,Astra 上線十二日支出已倍於 Fable 5.1

Key takeaway

重點摘要

Vercel AI Gateway:開權重模型八月首度佔逾半流量——均價連跌三個月,Astra 上線十二日支出已倍於 Fable 5.1

Vercel AI Gateway:開權重模型八月首度佔逾半流量——均價連跌三個月,Astra 上線十二日支出已倍於 Fable 5.1

重點摘要

Vercel 於九月十七日發布 AI Gateway Production Index(九月號),公布截至八月的生產流量:開權重模型首次處理逾半閘道 token,佔比由二零二五年十二月不足一成升至八月約百分之五十六;同期平均每 token 價格連跌第三個月,八月再跌約百分之二十三點二。指數另更新:OpenAI GPT-6 Astra 上線首十二日佔全部閘道支出約百分之七點七,約為同期 Anthropic Fable 5.1 約百分之三點七的兩倍。對香港企業,重點在「能跑多少可遷移工作負載到開權重/私有部署」,而不是只追單一閉源前沿品牌。

Vercel 發布 AI Gateway Production Index — September 2026,以該公司 AI Gateway 路由的匿名彙總生產流量,描述企業實際在用哪些模型、花多少錢。來源真實性已驗證:以 Vercel 官方網誌(2026-09-17,作者 Amelia Charles、Eric Dodds)為主;交叉對照 Vercel Changelog 對 TypeSafe Jev 上架閘道的說明,以及本站既有對 GPT-6 Astra、Claude Fable 5.1 公開上線時程的核對。X/search_news 僅作發現線索,不以社交摘要為準。本文說明指數方法、開權重與支出結構、技術含義,以及香港採購與私有部署視角。

一、核心事件:八月流量結構翻轉

技術細節

據 Vercel 官方指數(數據截至 2026 年 8 月,報告於 9 月 17 日發布):

  1. 開權重首次過半:八月,開權重(open-weight)模型處理 AI Gateway 約 56% 的 token 量;相對 2025 年 12 月「少於一成」,約八個月內由少數變成多數。開權重定義跟隨當期閘道模型清單(報告註明較早期報告更寬)。
  2. 支出仍偏閉源:同一月份,開權重約佔 14% 支出——流量過半、美元佔比仍低,顯示高單價前沿閉源模型繼續吸走預算。
  3. 均價連跌三個月:全閘道平均每 token 價格在八月再跌 約 23.2%,為連續第三個月下降,亦是自四月以來最陡的單月跌幅。在兩個月皆超過一千萬 token 的團隊中,中位團隊每 token 支出約少 7.6%(七月約 2.9%)。
  4. Anthropic 支出結構內部分化:七月 Fable 5 一度佔閘道支出約 13.2%;八月跌至約 4.9%,而約半價的 Opus 5 升至約 22.5%。報告指九成曾跑 Fable 的團隊削減用量,且更多轉向 Opus 5 而非換實驗室。Anthropic 仍佔八月全部閘道支出約 64%(自十二月起每月至少約六成一)。
  5. Google 流失:Google 閘道 token 佔比由約 30% 降至約 5%;其中 Gemini 3 Flash 自五月起失去約 95% 的 token 佔比,失去的量逾四分之三流向其他實驗室。
  6. 期中更新——Astra 對 Fable 5.1:9 月 17 日附註:Astra(9 月 3 日上閘道)首十二日佔全部閘道支出約 7.7%,Fable 5.1(9 月 1 日)同期約 3.7%;Astra 在 OpenAI 自家支出中,兩日內一度佔約三分之一。9 月 4 日至 16 日,Astra 與 Sol 約佔 OpenAI token 的 27%,卻佔其支出約 71%
  7. 期中更新——Jev:9 月 18 日附註稱 TypeSafe 的 Jev 為閘道史上採用最快的模型之一(首 24 小時近 13% 付費團隊試用)。本站已另文介紹 Jev,此處只作指數旁證,不重複產品評測。
  8. 方法聲明:token 量含輸入、輸出、推理、快取相關;支出以實驗室公開價估算;「流量移轉」比較同一批團隊的結構變化,並非追蹤單一 token 路徑。

重點不在「開源贏了閉源」的口號,而在:生產閘道已出現「量大走開權重、貴價留閉源前沿」的雙軌結構;價格下跌來自組合轉換,不是單一模型突然變平價

二、技術原理深度解析:閘道指數在量什麼

AI Gateway 把應用程式對多個實驗室的呼叫收成統一路由層。指數因此量的是「已接進生產、願意付費的實際流量」,而不是排行榜自報分數。

可拆三層解讀:

  1. 路由與計量層:每次推理的 token、價目、模型標識被彙總。價值在可比較的跨實驗室市佔;限制是樣本限於走 Vercel 閘道的團隊,不能直接外推全球所有推論。
  2. 開權重與閉源的分工:開權重權重可下載、可自託管或由第三方推理雲承載,邊際成本與議價空間通常較大,適合高量、可標準化的分類/摘要/內部檢索。閉源前沿則以能力峰值與專屬功能換取溢價,適合高風險決策、複雜代理與品牌要求綁定的場景。
  3. 「夠好就降檔」機制:Fable → Opus 的遷移說明企業在「最貴≠最必要」上已開始用生產數據投票。閘道指數把這種 internally 的降檔行為變成可觀察的市佔曲線。

對架構師而言,攻擊面是「把單一閉源 API 寫死在關鍵路徑」;系統約束是資料出境、速率限制與供應商政策變更;回擊是把工作負載分級——可公開或低敏感的大批量走開權重/自託管,高敏感與高後果決策走可審計的私有或專屬部署。

四、日常應用場景

1. 開發者與技術團隊

用閘道或多供應商抽象層記錄:每個端點實際呼叫的模型、token 與錯誤率。把「可用開權重完成」的批次任務從預設前沿模型拆出;為開權重路徑準備容器化推理與權重版本鎖定,避免只會呼叫某一家 HTTPS API。

2. 企業與隱私敏感行業

金融、法律、醫療應假設:公開閘道的市佔變化會很快反映到供應商議價與配額。含客戶機密的工作負載,不宜只因「開權重變便宜」就改丟到未知託管方;應同時評估權重來源、託管司法管轄區與日誌留存。採購問卷可加入:開權重可否在自有帳戶運行、是否提供 OpenAI 相容 API、能否關閉訓練/人類覆核。

3. 一般用戶

一般用戶較少直接看閘道指數,但會感到產品變快或變便宜的背後,往往是供應商把大量請求改走較平價模型。若產品突然「變笨」或「變慢」,可能是降檔或路由策略,而不一定是你的提示出了問題。

4. 香港與亞洲市場視角

香港團隊同時受數據出境、雲區域與匯率成本約束。Vercel 指數顯示:即使閉源仍吃下多數美元,開權重已能承載過半流量——這為「核心知識私有化、邊緣推理可遷移」提供經驗證據。YSK Limited 的企業私有 LLM 全託管(https://ysk.hk/services/ai-automation)以 Dataset → QLoRA/LoRA → 私有 OpenAI 相容 API 為路徑,年費由 HK$88,000 起,強調數據不出境;若還需把現有公有雲工作負載遷到可驗證邊界,可搭配雲端遷移與網絡安全(https://ysk.hk/services/cloud-security)。

五、專業評價與潛在考量

優勢(就資訊價值而言)

  • 官方生產流量,而非實驗室自辦排行榜;方法與限制寫得清楚。
  • 同時給出 token 量與支出,避免「流量第一=贏家」的誤讀。
  • Astra/Fable 5.1 的期中對照,讓九月上旬的前沿價格戰有可核對數字。

需要留意的地方

  • 樣本是 Vercel AI Gateway 客戶,未必代表全產業或中國本地閘道。
  • 開權重分類隨清單擴張,跨年絕對佔比需連同方法變更一起讀。
  • 支出為價目估算,實付折扣、承諾用量與企業合約可能不同。
  • 指數不證明任一開權重模型在所有任務上優於閉源前沿;它證明的是生產組合已在價格與風險之間重新配置

結語

Vercel 九月號 Production Index 把一個趨勢寫成可引用的生產事實:開權重模型在八月首次處理逾半閘道 token,均價連跌,企業把貴價前沿留給少數工作負載,並在 Anthropic 與 OpenAI 之間用支出投票。對香港技術決策者,下一步不是盲目「All-in 開源」或「永遠買最貴」,而是建立可觀測的模型組合——能量化哪些請求必須私有、哪些可以開權重、哪些仍需閉源峰值。若你的團隊正把內部知識與合規日誌從公共聊天產品遷到可控棧,可從 YSK Limited 的企業私有 LLM 全託管(https://ysk.hk/services/ai-automation)開始評估。


參考來源

  1. Vercel(2026-09-17):AI Gateway Production Index — September 2026 — https://vercel.com/blog/ai-gateway-production-index-september-2026
  2. Vercel Changelog:TypeSafe AI's Jev now available on AI Gateway — https://vercel.com/changelog/typesafe-ai-jev-now-available-on-ai-gateway
  3. TypeSafe AI(2026-09-15):Introducing System One Models and Jev(產品背景交叉)— https://typesafe.ai/blog/introducing-system-one-models-and-jev
  4. YSK Limited llms.txt/私有 LLM 服務頁(公司事實核對)— https://ysk.hk/llms.txthttps://ysk.hk/services/ai-automation

Related services & products