NVIDIA 推出 PAIR：閒置家用電腦組成本機 AI 叢集，代理推理可分流
NVIDIA 於 IFA 2026 正式公開開源軟體 Personal AI Router（PAIR），把同一區域網內多部閒置電腦變成虛擬推理路由器，讓代理式工作流不必再擠在單一 GPU 排隊。本文已核對 NVIDIA 官方 Blog 與 Developer Blog，來源真實性已驗證。重點包括：PAIR 如何與 Ollama／LM Studio 共存、安全配對機制、官方示範數據，以及對香港企業本機部署與《個人資料（私隱）條例》（PDPO）合規的啟示。
一、核心事件：本機代理遇上多機算力瓶頸
技術細節
當代理把複雜任務拆成多個 subagent 時，表面上是「一個任務」，底層卻可能同時發出數十次獨立推論請求。若全部打向同一部本機推理引擎，佇列會迅速變長，即使區域網上還有 RTX 工作站、筆記型電腦或 DGX Spark 閒置，也無法被利用。
NVIDIA PAIR 的定位不是新的推論引擎，而是 虛擬 inference router：
- 代理仍透過熟悉的 Ollama 或 LM Studio 介面送出請求，無需改 agent harness 或換一套叢集 API。
- PAIR 以 proxy 接管預設埠，檢查引擎與模型需求後，把整次請求指派到一部合資格節點執行完畢，再把回應串流回原應用。
- 它不會把單次推論切碎到多張 GPU，也不會合併 VRAM；效益來自「工作層級並行」，適合多代理、多 subagent、多工具同時打推論的場景。
官方技術部落格列出一組非官方、組態特定示範：以 Hermes Desktop 搭配 Ollama、模型 Qwen 3.6 35B A3B，五個 subagent 在單一 RTX Spark 筆電平均約 18 分鐘；在三機 PAIR 叢集（RTX Spark 筆電、DGX Spark、RTX 5090）平均約 8 分 48 秒。NVIDIA 明確標註這不是通用基準，結果取決於工作並行度、模型、引擎設定、硬體與節點可用性。
硬體與平台支援（公開 beta）：
- 作業系統：Windows、macOS、Linux（圖形與終端介面）
- GPU／裝置：GeForce RTX 20 系列或更新、RTX PRO（Turing 起）、DGX Spark、Apple M4 或更新
同一輪 IFA 公布還包括：llama.cpp／vLLM 本機加速（官方指 llama.cpp 在 RTX 5090 上吞吐量最高可約 1.9x）、Hermes Agent／OpenClaw／Perplexity Portable Computer 的簡化本機設定，以及 RTX Spark Windows PC 預計 2026 年 10 月出貨。本文焦點放在 PAIR 本身。
二、技術原理深度解析
PAIR 的運作可拆成四層：
-
發現與配對
節點透過 mDNS 在區域網自動發現，必要時可改用 IP。使用者以配對請求核准信任集合；配對完成前，節點間通訊被封鎖。完成後以 mTLS 與產生憑證加密通道，把提示、資料與推論流量盡量留在既有區域網。 -
引擎與模型就緒條件
參與節點需啟用 Ollama 或 LM Studio，且必須具備請求指定的確切模型才會被視為合資格。不同節點可存放不同模型；同一模型標籤裝在更多節點，只是擴大排程可選池。PAIR 可協助在配對系統上安裝引擎並觸發模型下載。 -
排程決策
對每個新請求，排程會綜合：節點是否上線就緒、支援引擎是否啟用、目標模型是否存在、目前工作負載，以及 GPU 利用率（例如是否正跑遊戲或圖形密集工具）。節點可動態加入或離開；筆電休眠、關機或主機被遊戲佔用時，叢集可彈性收縮。 -
可觀測性
Jobs／metrics 視圖顯示每筆請求實際落在哪一節點。官方提醒：Hermes 的 agent 數量與 PAIR 的 job 數量不是同一度量——一個 agent 可產生多次模型呼叫；只有當 telemetry 顯示多於一個合資格節點在跑工作，才應宣稱「多機執行」。
對開發者而言，PAIR 的價值在於不改代理程式碼即可加寬本機算力面。對資安與合規團隊，重點則是：流量留在區域網、mTLS 配對、以及「閒置時才貢獻算力」的彈性模型，避免把住家或辦公室變成永遠開機的迷你機房。
三、日常應用場景
1. 開發者與技術團隊
本機 coding agent、文件同步檢查、多 PR 分派，常會同時開多個 subagent。PAIR 可把獨立推論分散到第二部工作站或實驗室閒置機，讓主開發機繼續編輯、編譯或跑整合測試。開源倉庫亦開放檢查發現、配對、路由與引擎整合實作。
2. 企業與隱私敏感行業
法律、金融、醫療等受 NDA 或客戶資料約束的團隊，往往希望代理在不出公有雲的前提下跑批次整理、證據交叉核對或內部知識庫問答。PAIR 讓既有 Ollama／LM Studio 工作流可橫向擴容，而不必立刻採購單一超大型主機。仍須注意：節點之間雖用 mTLS，但區域網邊界、端點防護與模型供應鏈風險不會自動消失。
3. 一般用戶
官方想像的典型設定是「一部筆電加一部遊戲主機」。主機玩遊戲時，推理可轉到其他就緒節點；閒置時再把算力交回代理。這對想跑本機助手、又不想每問一句就燒雲端 token 的進階用戶，是直接誘因。
4. 香港與亞洲市場視角
香港寫字樓與住宅常見「筆電 + 桌機／工作站」組合，但公有雲 LLM 的跨境傳輸與供應商留存政策，常觸及 PDPO 下的跨境轉移與目的限制討論。PAIR 這類「資料與推論留在區域網」的工具，與本港企業對數據主權、客戶檔案不出境的需求同向。亞洲中小企業若已部署本地 GPU，也可把第二部閒置機變成夜間批次代理節點，降低對單一雲端 API 的依賴。
四、專業評價與潛在考量
優勢
- 與既有 Ollama／LM Studio 介面相容，代理無需改寫
- 開源、免費 beta，跨 Windows／macOS／Linux
- 為多代理並行設計，官方示範顯示合適工作負載下端到端時間可明顯縮短
- 安全配對（核准 + mTLS）與「資料留本地網」敘事清晰
需要留意的地方
- 對高度序列化、或只有單一長請求的工作幫助有限
- 若只有一部機器裝有目標模型，排程池無法真正擴張
- 家用／辦公室環境動態（休眠、離網、遊戲佔用）使可用性不如專用叢集
- 示範數據為特定組態，不可外推成通用加速比
- 企業導入仍需補齊身份、稽核、模型版本與區域網隔離政策
結語
NVIDIA PAIR 把「本機 AI」從單機推論，推進到可彈性伸縮的區域網虛擬路由：代理照舊說話，算力則在閒置機器之間流動。對追求代理式生產力、又不想把敏感提示送上公有雲的團隊，這是一條可驗證、可試用的路徑。
若香港企業需要把類似能力做成受控的私有部署——包含資料集整理、QLoRA／LoRA 微調、私有 API，以及 100% 數據不出境——可參考 YSK Limited 的企業私有 LLM 全託管（年費 HK$88,000 起）。
參考來源