雲端與 AI 基建再下一城！IBM 與 Together AI 簽訂為期多年、價值 2.4 億美元協議，於 IBM Cloud 上部署大型 Nvidia HGX B300 系統推論叢集。
重點內容：這是 IBM Cloud 首個專為推論設計的大規模 HGX B300 叢集，搭配 Nvidia Spectrum-X 乙太網路，預計 2027 年第一季上線，初期約 2000 顆 Blackwell 300 晶片。Together AI 將用此平台提供開源模型（如 DeepSeek、MiniMax、Kimi 等）推論服務，強調更低成本與企業級可靠性。Together AI 近期剛完成 8 億美元融資，估值達 83 億美元，平台每月處理約 400 兆 tokens。雙方目標是讓企業以較低成本享受前沿模型效能，加速開源 AI 成為企業首選。
開源模型推論基建需求爆發，雲端巨頭加速佈局。對追求成本效益與資料主權的企業，這類方案極具吸引力。
YSK Limited 專業遠端開發團隊實現 AI、私有 LLM、Web3 項目。立即了解：https://ysk.hk/