輝達/官方:Confidential Computing 擴至 Confidential Bare Metal——Grace Blackwell/Rubin 與 DSX OS;Cohere/Google Cloud 採用路徑

Key takeaway

輝達官方部落格於二零二六年十月二十一日由 John Fanelli 撰文宣布,NVIDIA Confidential Computing 新增 Confidential Bare Metal 部署選項,讓前沿模型開發商可在專屬第三方基礎設施上運行敏感工作負載,同時保留對模型與資料的控制權。新平台安全控制涵蓋傳輸中資料保護、平台完整性度量與硬體層存取限制;部署架構收斂為機密裸機、Kubernetes 機密容器與機密虛擬機三類,並擴展至 Grace Blackwell 與 Rubin 系統,且將與 NVIDIA DSX OS 整合作為雲端供應商建置 AI 工廠的參考架構。Cohere 計劃納入 Model Vault,Google Cloud 則將支援延伸至搭載 NVIDIA GB300 NVL72 的 A4X Max 執行個體。

輝達/官方:Confidential Computing 擴至 Confidential Bare Metal——Grace Blackwell/Rubin 與 DSX OS;Cohere/Google Cloud 採用路徑

輝達官方部落格於二零二六年十月二十一日由 John Fanelli 撰文宣布,NVIDIA Confidential Computing 新增 Confidential Bare Metal 部署選項,讓前沿模型開發商可在專屬第三方基礎設施上運行敏感工作負載,同時保留對模型與資料的控制權。新平台安全控制涵蓋傳輸中資料保護、平台完整性度量與硬體層存取限制;部署架構收斂為機密裸機、Kubernetes 機密容器與機密虛擬機三類,並擴展至 Grace Blackwell 與 Rubin 系統,且將與 NVIDIA DSX OS 整合作為雲端供應商建置 AI 工廠的參考架構。Cohere 計劃納入 Model Vault,Google Cloud 則將支援延伸至搭載 NVIDIA GB300 NVL72 的 A4X Max 執行個體。

輝達/官方:Confidential Computing 擴至 Confidential Bare Metal——Grace Blackwell/Rubin 與 DSX OS;Cohere/Google Cloud 採用路徑

輝達(NVIDIA)於二零二六年十月二十一日在官方部落格刊出由 John Fanelli 署名的基礎設施安全更新,說明 NVIDIA Confidential Computing 新增 Confidential Bare Metal,並同步擴展至 Grace Blackwell、Rubin 系統與 NVIDIA DSX OS 參考架構。同日輝達亦公布 OpenShell Reference Architecture,作為安全代理(safe agents)產品組合的一環;Confidential Computing 則定位為保護代理所依賴模型與資料的基礎設施層。本文已核對輝達官方原文事實,來源真實性已驗證;以下僅轉述可核實內容,不臆測未公布的效能數字或供應商上線時程。

一、核心事件:機密運算新增裸機部署路徑

技術細節

輝達指出,Confidential Bare Metal 讓前沿模型開發商可在專屬第三方基礎設施上運行敏感工作負載,同時保留對模型與資料的控制權。配套的新平台安全控制包括:

  • 保護傳輸中資料(data in transit)
  • 度量平台完整性(measure platform integrity)
  • 強制硬體層存取限制(hardware-level access restrictions)

在此基礎上,開發商可於第三方雲端、neocloud 與企業基礎設施上的 NVIDIA 加速運算環境,擁有並操作自訂軟體堆疊,包含主機與平台基礎設施軟體。

NVIDIA Confidential Computing 現提供收斂的安全架構,並有三種部署選項,組織可依信任邊界與營運需求選配:

  • Confidential Bare Metal:面向裸機基礎設施
  • Confidential Containers:面向 Kubernetes 環境
  • Confidential Virtual Machines:面向虛擬化環境

硬體支援方面,Confidential Computing 現延伸至 NVIDIA Grace Blackwell NVL72(機架級),以及基於 x86 的 NVIDIA HGX Rubin NVL8 與 NVIDIA DGX Rubin NVL8。輝達並稱,Confidential Computing 將與 NVIDIA DSX OS 整合,作為雲端供應商建置 AI 工廠的參考架構;DSX OS 將支援所有 Confidential Computing 模式。

生態系方面,官方點名支援 NVIDIA Confidential Computing 部署的供應商包括:CoreWeave、Firmus、GMI Cloud、Google Cloud、IREN、Lambda、Microsoft Azure Infrastructure、Nebius、Nscale、Vultr。系統夥伴包括 Cisco、Dell Technologies、HPE、Lenovo、Supermicro 與 Bull,並以 NVIDIA-Certified Systems 支援相關能力。

採用路徑上,Cohere 計劃將 Confidential Bare Metal 整合進 Cohere Model Vault,藉 NVIDIA Confidential Computing 可信執行環境,把硬體根植的安全延伸至 GPU。Cohere 技術長 Phil Blunsom 表示,企業信任 Cohere 提供安全且機密的推論平台;在 Model Vault 採用 NVIDIA Confidential Computing 後,可把硬體根植安全直接延伸至 GPU,在執行期間保護記憶體中的客戶資料以及跨互連的傳輸。Google Cloud 則將 Confidential Bare Metal 支援延伸至由 NVIDIA GB300 NVL72 驅動的 A4X Max 執行個體,結合非虛擬化加速運算與對訓練資料、模型智慧財產的密碼學保護。Google Cloud 傑出工程師暨 AI 基礎設施安全主管 Andrés Lagar-Cavilla 指出,Confidential Bare Metal 為 AI 實驗室提供硬體隔離、非虛擬化運算環境與端到端密碼學保護;以 NVIDIA Confidential Computing 建置的 A4X 執行個體,可在維持一線服務效能的同時,保護用戶資料私隱與模型智慧財產。

二、技術原理深度解析

NVIDIA Confidential Computing 以硬體根植隔離與密碼學認證(cryptographic attestation)協助保護執行中的模型與資料。Confidential Bare Metal 的關鍵差異,在於允許模型開發商在「專屬裸機」信任邊界內自管主機與平台軟體堆疊,同時仍取得傳輸保護、平台完整性度量與硬體層存取限制——亦即把過去較常見於虛擬機/容器機密運算的控制面,延伸到需要自訂 hypervisor/主機棧的前沿訓練與推論場景。

三種部署選項形成收斂架構:裸機適合需最大控制權與非虛擬化效能路徑的模型實驗室;機密容器對齊 Kubernetes 營運與多租户編排;機密虛擬機則對齊既有虛擬化隔離與雲端租户模型。組織可依資料分類、合規邊界與是否允許第三方管理主機棧,選擇對應模式,而非迫使所有工作負載套用同一抽象層。

平台擴展至 Grace Blackwell NVL72 機架級,以及 HGX/DGX Rubin NVL8,代表機密運算從單節點/小規模組態,延伸到 rack-scale 與新一代 Rubin 系統。與 DSX OS 的整合,則把「AI 工廠」軟體參考架構與機密工作負載模式對齊,讓雲端供應商在建廠時即預留機密運算模式,而非事後疊加。需注意:官方本稿並未公布延遲、吞吐量或與非機密路徑的量化落差,評估時應以各雲供應商實測與認證結果為準。

四、日常應用場景

1. 開發者與技術團隊

若團隊在第三方雲端訓練或託管前沿模型,應重新盤點「誰擁有主機棧」:需要自管驅動、韌體與平台軟體時,Confidential Bare Metal 提供比純虛擬機更貼近專屬機房的控制面;若已標準化於 Kubernetes,則優先評估 Confidential Containers。實務上應把認證(attestation)與金鑰釋放流程納入 CI/CD 與模型發佈閘道,避免僅依賴供應商行銷用語。

2. 企業與隱私敏感行業

金融、醫療、政府與跨國企業若須在境外或第三方機房訓練/推論,同時滿足資料駐留與模型智慧財產保護,可把「硬體根植 TEE 延伸至 GPU」納入採購檢核。Cohere Model Vault 與 Google Cloud A4X Max 路徑顯示,機密裸機正從概念走向具名產品整合;企業應要求供應商說明信任邊界、認證報告來源,以及營運人員對主機記憶體與互連的可見度限制。

3. 一般用戶

一般消費者較少直接採購裸機機密執行個體,但仍會間接受惠於企業把客戶資料與模型推論放進硬體隔離環境。選用雲端 AI 服務時,可關注供應商是否公開支援 Confidential Computing/TEE,以及資料在記憶體與互連路徑是否受密碼學保護——惟最終保障仍取決於服務合約與合規認證,而非單一產品名稱。

4. 香港與亞洲市場視角

香港與亞洲企業日益把大型模型訓練/推論外判至雲端與 neocloud,同時面對《個人資料(私隱)條例》、跨境資料轉移與行業監管要求。Confidential Bare Metal 與區域供應商生態(含 Google Cloud、多家 neocloud)提供「主權/營運選項更多元」的敘事:可在保留模型與資料控制權的前提下使用第三方加速算力。同日另有關於 Vera Rubin 與 Google Cloud A5X 產能的討論(A5X 正式提供時程為「下月」量級),可作為亞洲算力供給的背景,但並非本稿主線;本稿焦點仍是機密運算部署選項與平台擴展。企業應分開評估「有沒有 GPU」與「GPU 上的工作負載是否受硬體根植保護」。

五、專業評價與潛在考量

優勢

  • 把機密運算從容器/虛擬機延伸到裸機,對齊前沿模型實驗室「自管主機棧」的真實需求。
  • 三種部署選項收斂於同一安全架構,降低「每換一種抽象層就換一套信任模型」的整合成本。
  • 具名客戶與雲端路徑(Cohere Model Vault、Google Cloud A4X Max)以及供應商/系統夥伴清單,使生態可驗證性高於純路線圖聲明。
  • 與 OpenShell 等同日安全代理組合並列時,定位清晰:Confidential Computing 是保護模型與資料的基礎設施層。

需要留意的地方

  • 官方未公布相對非機密路徑的效能或成本溢價;採購應要求基準測試與認證細節。
  • 「支援」名單不代表所有地區、所有 SKU 即日可開通 Confidential Bare Metal;香港/亞洲可用性須向各供應商確認。
  • OpenShell 僅作同日組合脈絡,不宜把本稿解讀為 OpenShell 完整技術規格說明。
  • 硬體根植隔離不能取代應用層身分、金鑰管理與營運流程;錯誤配置的金鑰釋放或過度授權的營運角色仍可削弱 TEE 效益。

結語

輝達這次更新把 Confidential Computing 的信任邊界推進到裸機:前沿模型開發商可在第三方基礎設施上自管軟體堆疊,同時取得傳輸保護、平台完整性度量與硬體層存取限制,並把支援面擴至 Grace Blackwell NVL72 與 Rubin NVL8,再與 DSX OS 對齊 AI 工廠參考架構。Cohere 與 Google Cloud 的具名路徑,顯示機密裸機正進入可採購的產品敘事。對香港與亞洲企業而言,重點是在擴充加速算力時,同步釐清模型與資料在執行期的硬體隔離邊界。若企業需要在本地強化雲端遷移、零信任與持續監控,可參考 YSK Limited 雲端遷移與網絡安全服務(官網刊 99.99% SLA):https://ysk.hk/services/cloud-security 。


參考來源

  1. NVIDIA Blog/John Fanelli(主要來源,來源真實性已驗證):https://blogs.nvidia.com/blog/confidential-computing-model-builders-infrastructure/
  2. YSK Limited 雲端遷移與網絡安全:https://ysk.hk/services/cloud-security
  3. YSK Limited llms.txt(服務事實核對):https://ysk.hk/llms.txt

Related services & products