OpenAI 於二零二六年十月二十三日經官方網誌發布 Habitat 線上儲存平台系列第二篇，說明如何與 Azure Cosmos DB 團隊協作，把應用儲存層擴至支撐逾十億用戶、約四十個地理區域與逾五百 PB 數據的規模，並把全球讀取中位延遲由約一百二十毫秒降至約十毫秒（約十二倍）。文中交代多租戶容器策略、熱鍵節流與服務質素分級、以變更資料擷取驅動的快取失效，以及最大 Cosmos 帳戶「數十 PB、逾二千萬 QPS」等可核對表述。本文僅轉述該官方說明已載明的架構選擇、規模數字與延遲改善，不補填未公布的報價或通用基準。來源真實性已驗證。

OpenAI／官方：Habitat 線上儲存第二篇——逾五百 PB、約四十地區；全球讀取中位延遲約縮十二倍至約十毫秒

一、核心事件：從「服務層」講到「儲存層」如何撐住十億級產品

技術細節

官方指所有 OpenAI 產品都依賴 Habitat 提供毫秒級可靠數據存取。系列第一篇（二零二六年九月十一日）聚焦 Habitat 由 Python 客戶端演進為服務、以至 Rust 重寫；第二篇則專門談底層儲存——Azure Cosmos DB——以及與 Azure 團隊「共管」後的多租戶與讀效能策略。

官方重申 Habitat 作為線上儲存平台的定位：為 ChatGPT、API、Codex 與內部服務等提供快速可靠的資訊存取，並串接快取、授權、資料駐留、加密、多租戶隔離、限流與路由，底層資源包括 Azure Cosmos DB、Nanobase、Valkey 快取與 Blob 儲存，變更資料擷取（CDC）再餵給 Databricks、Rockset、Kafka 等下游。

規模方面，官方在本系列以 Habitat 服務逾五百 PB 數據、支撐逾十億用戶、橫跨約四十個地理區域作開場；第二篇另寫明，其最大 Azure Cosmos DB 帳戶存放「數十 PB」數據，並服務逾二千萬 QPS，且據官方所知，目前只有他們在此規模部署 Cosmos DB。

二、技術原理：多租戶繞一圈，再靠共管能力回到共享容器

官方描述 Habitat 對多租戶的「繞圈」：先用單一預設 Cosmos 容器，再因邏輯分區鍵碰撞、吵鬧鄰居與實體分區隨儲存增長而「變弱」等問題，改為關鍵工作負載開獨立容器；其後又因容量規劃負擔落在各產品團隊、上線日頻繁進事故室，改回以共享多租戶為預設，並與 Azure 團隊共同補齊熱鍵節流、請求優先級（QoS）、以及可按 RU 使用量拆分的改良 serverless 模式。

官方稱，完成上述變更後，已能回到單一共享容器為主，大幅簡化產品團隊的事前容量規劃，並在「其後數月」未再出現供應或吵鬧鄰居事故，即使產品開發節奏仍在加快。

共管層面，官方以二零二四年底某主要區域停電與回切時的連線踩踏為例，說明超大規模下「託管服務」變得不那麼託管：Habitat 與 Azure 工程團隊現共同監控由服務層到實體儲存層，對生產級非生產帳戶做變更測試，並建立直接工程通道與相互呼叫機制。

讀效能策略（官方稱讀取佔 Habitat 請求逾九成）分三層：在容量允許時把資料放近用戶；只對最小、最延遲敏感的資料集做廣域複寫（部分帳戶複寫至其服務流量所及全部四十個 Azure 區域，或至少每洲一個區域）；其餘依賴整合式 lookaside 快取（Valkey），並以 Cosmos 變更摘要驅動失效，目標在數秒內全球失效、兼顧命中率與新鮮度。再加上服務本身改寫為 Rust，官方稱全球讀取中位延遲由約一百二十毫秒降至約十毫秒，約為十二倍改善。

CDC 方面，官方稱每秒數百萬筆變更、橫跨數千容器與數百萬容器分區，經逾一百個 Kafka 主題，支撐次要索引、資料搬移、離線分析與即時產品功能；內部控制平面負責確保容器被擷取、選擇讀取區域，並在多地工人之間分配工作。

展望部分，官方寫明為應付下一個十億用戶與對話儲存，正自建以 RocksDB Cloud（源自 Rockset）加 Raft 複寫為核心的 EB 級線上儲存系統，文件模型對齊 Cosmos DB，以解聚合儲存與實體複寫換取較低尖峰 QPS、減少快閃容量需求。

三、日常應用場景

1. 開發者與技術團隊

對平台與後端團隊，這則官方工程文等於一份「超大規模 NoSQL＋快取＋CDC」實戰筆記：先收窄儲存 API 表面、再談多租戶與熱鍵保護，最後才用快取與區域放置壓延遲——與「先可靠、再快、再省」的順序一致。

2. 企業與隱私敏感行業

官方強調 Habitat 作為集中執行存取控制、審計日誌與限制底層儲存存取的卡口，並處理資料駐留與加密。對金融、醫療、法律等需資料主權與審計的香港企業，重點不是照搬 Cosmos 帳號規模，而是把「多租戶隔離、熱鍵節流、變更驅動失效、跨區失效與回切演練」寫進自己的雲端架構與事故劇本。

3. 一般用戶

終端用戶不會直接接觸 Habitat，但登入、設定、對話狀態與 Codex 等工作流的快慢與穩定性，都取決於這類線上儲存層是否撐得住尖峰與跨區延遲。

4. 香港與亞洲市場視角

香港企業若在 Azure 或其他雲上跑多租戶 SaaS／代理式人工智能後端，可對照官方三點：一是共享容器要有熱鍵與 QoS，否則吵鬧鄰居會打穿登入等核心路徑；二是跨區讀取不能只靠應用端散落快取，應有變更驅動的失效路徑；三是「託管資料庫」到一定規模必須共管與聯合演練。若需要香港雲端遷移、多區高可用與網絡資安加固，可參考 YSK Limited 的雲端遷移與網絡安全服務（詳見 https://ysk.hk/services/cloud-security）。

四、專業評價與潛在考量

優勢

官方同時給出系列定位、多租戶演進、共管原因與可核對的延遲／規模數字，資訊密度高。
「讀取逾九成＋CDC 失效」把快取設計從經驗談收束為可檢查的架構原則。
明確區分 Part I（服務／語言棧）與 Part II（儲存／Cosmos），避免把 Rust 重寫與儲存層改善混為一談。

需要留意的地方

逾五百 PB、逾十億用戶與約四十地區等系列開場數字，以及最大帳戶「數十 PB／逾二千萬 QPS」屬官方自述規模，並非第三方審計基準。
約一百二十毫秒降至約十毫秒為官方全球讀取中位延遲敘述，他司工作負載與區域拓樸結果可能不同。
自建 EB 級儲存系統仍屬「開發中」表述，尚未等同已全面取代 Cosmos。

五、對香港讀者的行動建議

盤點自身多租戶資料庫是否已有熱鍵節流、請求優先級與跨租戶爆破半徑上限。
檢查快取失效是否依賴過長 TTL，或已具備變更摘要／訊息匯流排驅動的近即時失效。
對關鍵帳戶做區域故障與回切演練，並把「連線踩踏／閘道過載」列入劇本，而非只測應用層重試。

結語

OpenAI 官方以 Habitat 第二篇，把「撐住十億級產品」的答案從服務語言棧延伸到 Cosmos 多租戶、共管運維與讀路徑快取。對香港與亞洲技術決策者，值得帶走的不是單一資料庫品牌，而是可驗證的營運紀律：先隔離吵鬧鄰居與弱分區，再以變更驅動的全球快取壓跨區延遲，並在超大規模下把雲供應商當成共管夥伴。若貴司正規劃多區雲端架構、儲存層加固或事故演練，歡迎由 YSK 雲端遷移與網絡安全團隊協助評估（https://ysk.hk/services/cloud-security）。

參考來源