CLI 一鍵安裝本機模型閘道：YSK Omni 用 npm 把 Hugging Face 權重接到 OpenAI 相容介面

重點摘要

想在自己電腦跑 Hugging Face 模型，又希望繼續用熟悉的 OpenAI 開發套件與介面，最省事的做法是先把閘道裝好。YSK Omni 以命令列一鍵安裝，經 npm 全域裝上 ysk-omni（短名 ysko）後，即可完成設定、啟動與管理台登入，把本機權重接到 OpenAI 相容 HTTP 閘道。

CLI 一鍵安裝本機模型閘道：YSK Omni 用 npm 把 Hugging Face 權重接到 OpenAI 相容介面

想在自己電腦跑 Hugging Face 模型，又希望繼續用熟悉的 OpenAI 開發套件與介面，最省事的做法是先把閘道裝好。YSK Omni 以命令列一鍵安裝，經 npm 全域裝上 ysk-omni（短名 ysko）後，即可完成設定、啟動與管理台登入，把本機權重接到 OpenAI 相容 HTTP 閘道。

產品現為 MIT 開源 v1.0.2，預設埠 3850，文字引擎支援 llama-server（GGUF）與 vLLM（safetensors），對話以 AES-256-GCM 寫入本機 SQLite。香港開發者與企業團隊可以先自行安裝試用，需要代裝或訂造再找 YSK Limited 書面報價。

CLI 一鍵安裝本機模型閘道：YSK Omni 用 npm 把 Hugging Face 權重接到 OpenAI 相容介面

本機模型要真正用得起，關鍵在於讓現有工具立刻連得上熟悉的介面。YSK Omni 正是為此而設：一條 npm 安裝指令，配上 ysk-omni／ysko 命令列，把本機 Hugging Face 權重放在一層 OpenAI 相容閘道後面，讓 SDK、curl 與 Open WebUI 等既有工作流可以直指向本機。對香港重視數據留在自己機器上的團隊來說，這等於把「本機推理」與「熟悉開發體驗」一次接好。

一、這個特點解決什麼痛點

自行串起本機模型，常見要同時處理安裝、設定、啟動、管理台與目錄載入，步驟一散，團隊的力氣就容易耗在基建。CLI 一鍵安裝把這條路徑收成可重複的標準動作：

  • 全域安裝：npm install -g ysk-omni，命令列為 ysk-omni，短名 ysko。
  • 設定與啟動：ysk-omni setup 之後執行 ysk-omni start，閘道預設開在埠 3850。
  • 管理台一次就緒：ysk-omni admin otp 取得一次性登入碼，開啟本機 /admin/，再做目錄拉取、Load 與介面呼叫。

開發者只需維持 Node.js 20 或以上環境，即可把「裝好閘道」變成幾分鐘內可完成、可重複執行的固定流程。

二、特點背後的完整方案

CLI 只是入口；裝好之後，YSK Omni 提供完整的本機模型閘道能力，重點如下（均見官網公開說明）：

1. OpenAI 相容 HTTP 閘道

閘道支援對話完成、Responses 與 Anthropic Messages 等常用介面，現有 OpenAI 開發套件、curl 與 Open WebUI 幾乎可直接改指向本機端點。預設連接埠為 3850，管理台位於 /admin/。

2. 雙文字引擎與本機權重目錄

文字推理可走 llama-server（GGUF）或 vLLM（safetensors），另有內建 echo 方便協議測試。Hugging Face 權重留在 ~/.ysk-omni/models/：先經目錄搜尋與下載佇列，再 Load 才開始對話，Unload 亦可按需釋放。

3. 加密對話與金鑰角色

對話以 AES-256-GCM 寫入 SQLite（資料位於 ~/.ysk-omni 之下）。管理台用一次性登入碼開啟；金鑰以 omni_live_… 形式管理，並可區分 admin／client 角色與 safe／agent 模式，方便團隊把本機閘道納入既有權限習慣。

4. 媒體 worker 與執行環境

圖像、語音、轉錄與影片可由獨立 worker 接上；執行環境亦可按作業系統安裝 llama-server、ffmpeg 等元件。命令列另提供 status、doctor、update 等運維指令，方便檢查 Node、環境、已載入模型與連接埠狀態。

5. 開源授權與商務選項

YSK Omni 以 MIT 授權公開，目前版本為 v1.0.2，可自行安裝使用；YSK Limited 不向開源使用收費。若需要代為安裝、接上媒體 worker，或以 ysk-omni 為基底訂造再開發，可按範圍書面報價。

三、誰最適合用／香港應用場景

CLI 一鍵安裝最能幫到希望「本機先跑起來、再用熟悉介面接業務」的團隊：

  • 產品與全端工程師：在筆記型電腦或工作室主機上快速裝好閘道，用既有 SDK 對本機模型做原型與回歸測試。
  • 初創與獨立開發者：以 npm 全域安裝降低試用門檻，先用 GGUF 或 safetensors 權重驗證產品流程，再決定是否擴大算力。
  • 重視數據主權的香港企業 IT／資安團隊：模型與對話留在自有機器（~/.ysk-omni），適合內部知識助手、文件摘要或閉環示範環境。
  • 顧問與系統整合商：為客戶演示「本機 Hugging Face → OpenAI 相容介面」時，可用同一套 CLI 重複部署，縮短現場準備時間。

無論是鰂魚涌共用工作空間、觀塘工廈工作室，或中環律師行／金融公司的內部開發機，只要具備 Node.js 20+ 與足夠本機算力，即可把閘道變成標準開發基建的一部分。

四、如何開始

  1. 自行安裝：確認 Node.js 20 或以上，執行 npm install -g ysk-omni，再依序 ysk-omni setup、ysk-omni start，並以 ysk-omni admin otp 開啟 http://127.0.0.1:3850/admin/。
  2. 目錄與 Load：在管理台搜尋或拉取 Hugging Face 模型至本機目錄，Load 後即可用 OpenAI 相容介面呼叫。
  3. 商務諮詢：若需要代裝、接 worker 或企業訂造，WhatsApp +852 6160 4242，或電郵 [email protected]，說明主機環境、VRAM 與希望跑的模型。

完整功能、安裝步驟與常見問題，請瀏覽產品頁：https://ysk.hk/products/ysk-omni

結語

本機模型要接進日常開發，不必再拼湊零散腳本。YSK Omni 以 CLI 一鍵安裝把 npm、設定、啟動與管理台收成一條清晰路徑，再以 OpenAI 相容閘道、llama-server／vLLM 雙引擎與 AES-256-GCM 加密對話，讓 Hugging Face 權重留在你自己的機器上也能即用。現為 MIT 開源 v1.0.2，預設埠 3850。歡迎前往 https://ysk.hk/products/ysk-omni 查看細節，或 WhatsApp +852 6160 4242／[email protected] 查詢代裝與訂造。

參考來源

延伸閱讀 · 相關服務與產品

相關文章