OpenAI 相容閘道讓團隊沿用既有 SDK、腳本與內部工具,直接呼叫本機 Hugging Face 權重,無須重寫整條應用鏈。YSK Omni 以 MIT 開源閘道把熟悉的 HTTP 介面接到本地模型,適合香港企業、研發與工作室把推理留在自己機器上。
同一套相容介面,可依場景切換 GGUF 或 safetensors 文字引擎,管理台與 CLI 協助完成安裝、載入與日常操作,讓本機部署更快落地。
OpenAI 相容閘道:把本機 Hugging Face 模型接到熟悉介面——YSK Omni
香港不少團隊已用 OpenAI 風格的 HTTP 呼叫串起內部工具、自動化腳本與產品原型。若下一步要把推理移到本機 Hugging Face 權重,最省事的做法往往不是重寫整條鏈,而是保留同一套相容介面。YSK Omni 正是為這個需要而設:OpenAI 相容閘道,把熟悉的呼叫方式接到本地模型。
一、這個特點解決什麼痛點
換模型、換主機,最怕整條應用跟著改。客戶端、排程、內部儀表板一旦綁死某一雲端端點,遷移成本就會急升。OpenAI 相容閘道把「介面契約」固定下來:既有 SDK 與腳本仍可對同一風格的端點發請求,背後則改為本機權重。
對香港企業而言,這同時對應兩種常見訴求:一是把敏感推理留在可控環境;二是研發與產品迭代時,仍沿用團隊已熟練的工具鏈,縮短試錯週期。
二、特點背後的完整方案
YSK Omni 是面向本機 Hugging Face 模型的 OpenAI 相容 HTTP 閘道,目前公開版本為 v1.0.1,採 MIT 授權。文字推理可經 llama-server(GGUF)或 vLLM(safetensors)雙引擎處理;影像、語音、轉錄與影片則以獨立 worker 擴充。預設埠為 3850,CLI 指令為 ysk-omni(別名 ysko)。
官網公開安裝路徑清楚:全域安裝 npm install -g ysk-omni,再以 ysk-omni setup 與 ysk-omni start 完成設定與啟動;管理台以一次性密碼開啟 /admin/,於本機目錄拉取權重、Load 後即可呼叫介面。對話可於本機以 AES-256-GCM 加密存放於 SQLite。需求為 Node.js 20+。
完整產品說明、下載與聯絡方式見產品頁:https://ysk.hk/products/ysk-omni
三、誰最適合用/香港應用場景
- 內部工具與自動化:已用 OpenAI 風格 SDK 的腳本、排程與機器人,改指向本機閘道即可試跑本地模型。
- 研發與原型:產品與數據科學團隊在本機或機房 GPU 上載入 Hugging Face 權重,介面仍保持一致。
- 工作室與獨立開發者:MIT 開源、CLI 一鍵安裝,適合先在個人機器驗證,再擴到團隊環境。
- 香港與亞洲落地:推理與對話記錄留在自管機器,方便對齊內部資安與合約要求,同時保留熟悉開發體驗。
四、如何開始
- 閱讀產品頁與安裝步驟:https://ysk.hk/products/ysk-omni
- 安裝 CLI:
npm install -g ysk-omni,接著ysk-omni setup→ysk-omni start - 以
ysk-omni admin otp取得管理台一次性密碼,開啟本機http://127.0.0.1:3850/admin/載入模型 - 把現有 OpenAI 風格客戶端的 base URL 指向本機閘道(預設埠 3850)後驗證呼叫
需要安裝協助或書面報價的訂造/整合,可 WhatsApp +852 6160 4242 或電郵 [email protected]。
結語
OpenAI 相容閘道不是多一個抽象層,而是把「熟悉介面」與「本機 Hugging Face 權重」接在同一條線上。YSK Omni v1.0.1 以 MIT 開源、雙引擎文字推理、預設埠 3850 與管理台流程,讓香港團隊可以較低摩擦地落地本機模型。詳情與最新公開說明:https://ysk.hk/products/ysk-omni
參考來源