MIT 開源 v1.0.1:YSK Omni 把本機 Hugging Face 權重變成可上線閘道

Key takeaway

想在自己的機器上跑 Hugging Face 權重,又希望現有 OpenAI SDK、curl 與 Open WebUI 幾乎不用改就能接上?YSK Omni 以 MIT 授權公開,最新公開版本 v1.0.1,把本機模型放在一層 OpenAI 相容 HTTP 閘道後面,香港開發者與企業可自行安裝、自用上線。

MIT 開源 v1.0.1:YSK Omni 把本機 Hugging Face 權重變成可上線閘道

想在自己的機器上跑 Hugging Face 權重,又希望現有 OpenAI SDK、curl 與 Open WebUI 幾乎不用改就能接上?YSK Omni 以 MIT 授權公開,最新公開版本 v1.0.1,把本機模型放在一層 OpenAI 相容 HTTP 閘道後面,香港開發者與企業可自行安裝、自用上線。

開源自用、不向開源使用收費;需要代裝、接媒體 worker 或訂造再開發時,可由香港公司 YSK Limited 按書面範圍報價協助。

「MIT 開源 v1.0.1」是 YSK Omni(https://ysk.hk/products/ysk-omni)最直接的入手理由:閘道與權重裝在您擁有的機器上,命令列為 ysk-omni(短名 ysko),預設連接埠 3850,管理台以一次性登入碼開啟。文字引擎支援 llama-server(GGUF)或 vLLM(safetensors),圖像、語音、轉錄與影片可另接獨立 worker;對話以 AES-256-GCM 寫入本機 SQLite。MIT 開源自用;企業代裝或訂造另按書面報價。

一、這個特點解決什麼痛點

「MIT 開源 v1.0.1」正面回應本機模型落地時最常見的四個卡點:

  • 要私有推理、又要沿用既有客戶端:把閘道指到本機後,OpenAI 形狀的 SDK、curl 與 Open WebUI 可繼續呼叫
  • 權重想留在自己磁碟:Hugging Face GGUF/safetensors 放在 ~/.ysk-omni/models/,目錄拉取完成再 Load 才開始對話
  • 希望安裝路徑清楚、版本可預期:npm 全域安裝、Node.js 20+、公開版本 v1.0.1,預設埠 3850,方便寫進內部文件與自動化
  • 開源自用與企業代裝可分開走:自用免費安裝;要正式上線、接 worker、白標或內網時,再找 YSK Limited 書面報價

當團隊已有本機算力與模型檔,缺的往往是一層穩定、可認證、可排隊的閘道。「MIT 開源」讓這層閘道可以先落地試用,再按需要升級為代裝或訂造。

二、特點背後的完整方案(展開整項 YSK Omni)

產品頁見 https://ysk.hk/products/ysk-omni ;產品索引見 https://ysk.hk/products/ 。YSK Omni 是本機 Hugging Face 模型的 OpenAI 相容 HTTP 閘道。圍繞「MIT 開源 v1.0.1」展開的完整能力包括:

  • 開源與版本(本篇焦點):MIT 授權;公開版本 v1.0.1;npm install -g ysk-omni 後以 ysk-omni setup/start 啟動;不向開源使用收費
  • OpenAI/Anthropic 介面:POST /v1/chat/completions、POST /v1/responses、GET /v1/models;亦支援 POST /v1/messages(Bearer 或 x-api-key)
  • 雙引擎文字路徑:GGUF 走 llama-server;safetensors 走 vLLM;另有內建 echo 作協議測試
  • 目錄 Load:Hub 搜尋、下載佇列、本機模型 Load/Unload/刪除
  • 加密對話與 OTP 管理台:對話以 AES-256-GCM 寫入 ~/.ysk-omni 的 SQLite;管理台 /admin/ 用五分鐘單次 OTP,不是把 live 金鑰貼進瀏覽器
  • 金鑰與佇列:omni_live_… 金鑰、角色 admin/client、模式 safe/agent;佇列可暫停、排空、調優先級
  • 媒體 worker(可選):圖像、語音、轉錄、影片經 OMNI_*_URL 接上獨立 worker
  • 運維:預設埠 3850;Node.js 20+;可 start --pm2;ysk-omni doctor 檢查環境

企業可由 YSK Limited 代裝、接媒體 worker、白標、金鑰與防護策略,或以 ysk-omni 為基底訂造再開發——主機與權重仍由您擁有或由合約指定。若同時需要遠端開發配額或企業私有 LLM 全託管,可另見 https://ysk.hk/services/outsourcing 與 https://ysk.hk/services/ai-automation 。

三、誰最適合用/香港應用場景

  • 已有本機 GPU/工作站、要把 Hugging Face 權重變成可呼叫 API 的香港開發者
  • 代理與工作室:為客戶代裝本機閘道,交付後客戶用 OTP 管理台與既有 SDK 日常呼叫
  • 要數據與權重留在自有機器的法律、金融、醫療或 NDA 敏感團隊:先以開源閘道打通內部工具鏈
  • 已在用 Open WebUI 或 OpenAI 相容客戶端、想改指私有 GGUF/safetensors 的技術團隊
  • 需要代裝、接 worker 或白標才正式上線的單位:經書面範圍由 YSK Limited 協助

香港辦公室與跨境協作並存時,本機閘道是否好裝、好接、好維運,直接影響私有模型能否走進日常開發。以 MIT 開源 v1.0.1 開場,有助把「本機權重」變成「可上線閘道」的清晰下一步。

四、如何開始

  1. 閱讀產品說明:https://ysk.hk/products/ysk-omni
  2. 在 Node.js 20+ 環境執行:npm install -g ysk-omni → ysk-omni setup → ysk-omni admin otp → ysk-omni start(預設 http://127.0.0.1:3850/admin/)。
  3. 於目錄拉取模型並 Load,再以既有 OpenAI SDK 或 curl 指向埠 3850。
  4. 開發者可於 GitHub 查看源碼:https://github.com/yanshekki/ysk-omni
  5. 如需代裝、接媒體 worker 或訂造,經 WhatsApp +852 6160 4242 或 [email protected] 聯絡 YSK Limited;亦可先了解 https://ysk.hk/services/outsourcing 。

結語

MIT 開源 v1.0.1,是 YSK Omni 把本機 Hugging Face 權重變成可上線閘道的入手點:預設埠 3850,OpenAI 相容介面,llama-server/vLLM 雙引擎,開源自用、企業可代裝或訂造。立即了解:https://ysk.hk/products/ysk-omni


參考來源

Related services & products