YSK 自家產品 · MIT 開源 · npm · v1.0.2
本機權重
Hugging Face GGUF 與 safetensors 留在 ~/.ysk-omni/models/。目錄拉取完成後，再 Load 才開始對話。
OpenAI 介面對話 · 回應 · 訊息
AES-256-GCM對話寫入 SQLite 加密
OTP 管理台一次性登入 · 五分鐘單次
目錄 LoadGGUF · llama-server · vLLM
本機權重 → 可上線閘道
現有 SDK、curl 與 Open WebUI 照舊呼叫；模型留在您自己的機器。閘道不會啟動外部編程 CLI。
- 用戶端OpenAI 開發套件／curl／Open WebUI
- 閘道 :3850認證 · 限流 · 佇列 · 管理台
- 文字引擎llama-server · vLLM · echo
- 媒體 worker圖像 · 語音 · 轉錄 · 影片
用戶端（OpenAI SDK / curl / Open WebUI）
│ Authorization: Bearer omni_live_…
▼
Express 閘道 :3850
· 認證 · 限流 · safe／agent · 佇列 · Admin
│
├─ GGUF 文字 → llama-server
├─ safetensors → vLLM
├─ echo → 內建協議測試
├─ 圖像 → OMNI_IMAGE_URL
├─ TTS／STT → OMNI_TTS_URL／OMNI_STT_URL
└─ 影片 → OMNI_VIDEO_URL（或短 H.264 樣本）
OpenAI 相容
對話完成、Responses、Anthropic Messages — 既有開發套件幾乎可直接指向本機閘道。
目錄 Load
Hub 搜尋、下載佇列、Load／Unload。GGUF 走 llama-server；safetensors 走 vLLM。
加密對話
對話以 AES-256-GCM 寫入 SQLite。管理台用一次性登入碼，不是把 live 金鑰貼進瀏覽器。
| 功能 | 說明 |
|---|---|
| OpenAI 介面 | POST /v1/chat/completions、POST /v1/responses、GET /v1/models |
| Anthropic 介面 | POST /v1/messages（Bearer 或 x-api-key） |
| 媒體 | 圖像生成／編輯、影片、/v1/audio/speech、/v1/audio/transcriptions |
| 目錄 | Hub 搜尋、下載佇列、本機模型、Pull／Load／Unload／刪除 |
| 執行環境 | llama-server、ffmpeg 等按作業系統安裝／解除安裝 |
| 金鑰 | omni_live_…；角色 admin／client；模式 safe／agent；可用模型清單 |
| 加密 | AES-256-GCM 加密對話；資料在 ~/.ysk-omni |
| 管理台 | OTP 登入；儀表板、操場、目錄、媒體庫、佇列、DDoS、PM2 |
| 佇列 | 暫停／排空、工作、優先級、死信清理 |
| DDoS 防護 | 限流、自動封鎖、黑名單、反向代理 IP 來源 |
| 命令列 | 生命週期、金鑰、目錄、佇列、防濫用、doctor、自我更新 |
| 運維 | SQLite、PM2、Node.js 20+、預設埠 3850 |
介面與協議
端點、媒體 worker、錯誤碼，以及與 Grok CLI Gateway 的分別。
協議與端點
- 基底
http://127.0.0.1:3850；認證Authorization: Bearer omni_live_… GET /health存活；GET /ready資料庫 + 文字引擎（PATH 上的 llama-server）GET /v1/models列出此金鑰可用 id，並帶modality、runtimePOST /v1/chat/completions（可stream: true）；POST /v1/responses文字子集POST /v1/messagesAnthropic 風格，亦接受x-api-key- 完成結果的閘道擴充：
omni.sessionId、omni.asset_ids（媒體）。OpenAI SDK 會忽略未知欄位 - 文件與 assistants：
/v1/documents及相關 OpenAI 形狀路由（受能力旗標限制）
媒體 worker
POST /v1/images/generations、POST /v1/images/editsPOST /v1/videos、GET /v1/videos/:id、GET /v1/videos/:id/contentPOST /v1/audio/speech、POST /v1/audio/transcriptions- 將
OMNI_IMAGE_URL／OMNI_TTS_URL／OMNI_STT_URL／OMNI_VIDEO_URL指向 OpenAI 形狀的 worker - 未設圖像／TTS／STT worker → 501
engine_unconfigured - 未設影片 worker 時可能回一段短 H.264 樣本，並非正式生成
- 圖像／影片／語音需要 agent 或 admin 金鑰，除非操作者正以 Admin OTP 登入
- 輸出副檔名：
png／jpeg／mp3／wav／mp4；閘道可用 ffmpeg 轉換
錯誤碼
- JSON：
{ "error": { "message", "type", "code" } } unauthorized401 ·forbidden403 ·model_not_allowed403feature_disabled403／501 ·engine_unconfigured501 ·engine_timeout504rate_limit_exceeded429 ·queue_full429 ·queue_draining503
與 Grok CLI Gateway
- gctoac 包裝本機 Grok 命令列（
grok -p），預設埠 3847 - YSK Omni 跑本機 Hugging Face 權重：文字用 llama-server 或 vLLM，媒體用獨立 worker，預設埠 3850
- 閘道不會啟動外部編程 CLI
- 兩件產品都是 MIT 開源、OTP 管理台、OpenAI 相容介面
管理台
OTP 登入後的營運面板。介面語言：英文與香港書面語。網址 http://127.0.0.1:3850/admin/。
登入
ysk-omni admin otp：五分鐘過期、只能用一次- 面板不會在瀏覽器保存 live API 金鑰
ysk-omni admin off停用面板；只能用admin on重開
管理台各頁
- 儀表板：KPI、健康
- 對話：操場。預設已載入 GGUF。媒體模型會在對話中出圖／出片／出聲
- 對話記錄：加密請求歷史
- API 金鑰：角色、模式、速率、IP 白名單、可用模型
- 文件：已上傳檔案
- 媒體庫：工作室（圖像、影片、語音、轉錄）與媒體庫
- 目錄：Hub 搜尋、下載佇列、本機模型、Load／Unload／刪除
- 執行環境：按作業系統安裝／解除安裝 llama-server、ffmpeg 等
- 審計日誌：審計紀錄
- 安全設定：全域 safe、預設模型
- API 能力：協議與媒體旗標
- 用量與防護：限額與用量
- DDoS 中心：政策、封鎖
- 佇列：暫停、排空、工作
- PM2：行程管理
- 系統狀態：Node、npm、llama-server、ffmpeg、PM2、Prisma、套件更新、環境
- 支援：作者與贊助
目錄與執行環境
Pull 不會在您按該列的 Pull（或執行 ysk-omni pull）之前開始下載。
Hub 與本機模型
- Hugging Face 分頁用官方 Hub REST API；同步快取下載量最高的 50 個 GGUF id（只寫中繼資料）
- 沒有本機 runtime 的列會隱藏；容量以 MB 或 GB 顯示，可知時附估計 VRAM
- 進行中的拉取顯示百分比、容量、速度、預計完成時間；轉到其他 Admin 分頁不會丟失該區塊
- 已拉取的 GGUF 與快照（whisper、diffusion、T2V）列於本機模型：Load、Unload、刪除
Load 之後
- GGUF Load 會啟動 llama-server，之後持久提供對話
- safetensors 文字 id 需要 vLLM
- diffusion／whisper／T2V 由媒體 worker 從磁碟使用，不是 llama-server
- 內建
echo、piper/lessac-high、tts-1、whisper-1作協議或內建語音路徑
執行環境
ysk-omni runtimes：主機作業系統、已安裝／缺失、安裝方案runtimes install <id>：Homebrew／pip／winget／Docker（llamacpp、ffmpeg、mlx等）- Admin 解除安裝會先確認
佇列與安全
加密、金鑰、佇列、DDoS 與安全注意事項。
加密與資料目錄
- 對話以 AES-256-GCM 寫入
~/.ysk-omni/data/gateway.db - 權重在
models/；.env含ENCRYPTION_KEY、埠、worker 網址 - 明文金鑰建立時只顯示一次；列表不含密鑰
API 金鑰
- 格式
omni_live_…；角色admin／client；模式safe（對外）／agent（完整媒體與工具） - 可設每分鐘速率、IP／CIDR 白名單、可用模型清單
- 空白模型清單＝不限制；不在清單 → 403
model_not_allowed - Admin OTP 工作階段對模型沒有限制
- 命令列：
ysk-omni key create|list|show|update|revoke|activate
對話佇列
- 統計、政策、暫停／恢復、排空／取消排空
- 工作列表、取消、重新入隊、優先級、清理死信
- 佇列已滿 429、排空中 503
- 管理台與 CLI（
ysk-omni queue …）共用同一套操作
DDoS／防濫用
- 限流：每把金鑰／每個 IP、對話突發
- 自動封鎖：失敗認證、重複 429、併發洪水
- 預設檔：寬鬆／均衡／嚴格；
ddos ban／unban／黑名單 - 反向代理跳數與 IP 來源（auto／Cloudflare／nginx 等）
安全注意
- 備份 ENCRYPTION_KEY — 遺失則歷史對話無法解密
- 對外請用 safe 模式金鑰；管理台只開本機／虛擬私人網絡
- OTP 五分鐘單次；勿把 live 金鑰貼進瀏覽器
- 勿提交
.env；勿外洩 OTP／admin 金鑰
命令列與運維
ysk-omni／ysko（不要用 yo）。全局旗標：--home、--port、--json。
命令列
- 生命週期：setup、start（
-f／--pm2）、stop、restart、status、doctor、migrate、seed、open、version、update - 管理台：status／on／off、otp、sessions list／revoke
- 金鑰：create（
-r-m--models）、list、show、update、revoke、activate - 目錄：catalog、search、sync、show、pull、models、load、unload、rm
- 執行環境：runtimes、install、uninstall
- 佇列／DDoS：stats、policy、pause／drain、jobs、ban／unban
- 觀測：docs、chats、conversations、audit、stats、logs
- API 能力：
api features get|set；預設檔 open／locked／dev
安裝、連接埠與生產
- 需要 Node.js 20 或以上
- 預設埠 3850；管理台
/admin/；API/v1 - 資料目錄
~/.ysk-omni（--home） ysk-omni doctor：Node、環境、已載入模型、VRAM、建置、執行器、連接埠衝突- 生產可用
start --pm2；update --check自我更新
概念圖與快速安裝
以下為產品概念圖，不是管理台截圖。真實介面請安裝後開啟 /admin/。
01
目錄
Hub 搜尋、下載佇列、本機模型。概念圖。
02
載入引擎
GGUF 走 llama-server；safetensors 走 vLLM。概念圖。
03
管理台
一次性登入碼，不是 live 金鑰。概念圖。
04
媒體 worker
圖像、語音、轉錄、影片分路處理。概念圖。
05
佇列
暫停、排空、優先級與死信。概念圖。
06
本機主機
權重與閘道留在您自己的機器。概念圖。
快速指令
- 全域安裝
- 安裝設定 → 啟動
- 管理台一次性密碼 → 開啟 /admin/
- 目錄拉取 → Load → 呼叫介面
npm install -g ysk-omni
ysk-omni setup
ysk-omni admin otp
ysk-omni start
# http://127.0.0.1:3850/admin/需要代裝、接媒體 worker 或訂造再開發？見 商務合作 — 此頁不標價。
開源自用，企業可代裝或訂造
YSK Omni 以 MIT 授權公開，閘道與權重裝在您擁有的機器上。YSK Limited 可代為安裝、接上媒體 worker，或以 ysk-omni 為基底訂造再開發——不向開源使用收費，訂造按範圍書面報價。
開源自用
適合自行部署、內部試用與開源貢獻。
- 本機 Hugging Face 權重 + OpenAI 相容閘道
- npm 自行安裝；埠 3850
- 不向開源使用收費
YSK 代裝／訂造
適合要正式上線、接 worker、白標或內網的團隊。
- 主機仍是您的，不是多租戶雲閘道
- 香港公司簽約；需要時另附保密協議
- 此頁不標訂造價，報價以書面為準
要本機／內網語言模型
權重不出境，現有 OpenAI SDK 改指向閘道即可。
已有 OpenAI 相容客戶端
把 curl、SDK、Open WebUI 接到私有 GGUF／safetensors。
要接媒體產線
圖像、語音、轉錄、影片 worker 按您的引擎接上 OMNI_*_URL。
要加固才上線
金鑰政策、DDoS、只開本機管理台，由 YSK 按書面範圍執行。
| 可訂造範圍 | 說明 |
|---|---|
| 代裝 | Node.js 20+、ysk-omni setup、OTP、首次目錄 Pull／Load、PM2 |
| 媒體 worker | 接 OMNI_IMAGE_URL／TTS／STT／VIDEO；ffmpeg；未設者仍回 501 或短樣本 |
| 白標 | 管理台名稱、標誌、預設語系 |
| 金鑰與防護 | 角色／模式、可用模型清單、速率、IP 白名單、DDoS 預設檔 |
| 系統串接 | 現有 OpenAI 相容客戶端、gctoac、內部帳號、CLI／agent 腳本 |
| 內網／數據不出境 | 只開本機或虛擬私人網絡管理台；權重留在您的磁碟 |
| 執行環境 | llama-server、vLLM、ffmpeg 按作業系統安裝方案 |
| 交付後 | 文件、遠端培訓、約定期保固。小改動可走開發者外判月費技術票 |
合作流程
由查詢到保固，每一步都有書面範圍。開源下載與代裝／訂造分開計算。
- 查詢WhatsApp 或電郵：主機、VRAM、要跑的模型與 worker
- 發現遠端對談：作業系統、內網、合規、是否要白標／數據不出境
- 方案範圍、工期、交付物（代裝 vs 訂造模組）；書面報價
- 合約香港公司簽約；需要時另附保密協議
- 代裝／訂造以 ysk-omni 為基底；分階段演示
- 驗收閘道可呼叫、
/admin/可登入、文件、培訓 - 保固約定期內修正；其後可轉維護或掛入外判月費
交付物（按合約）
- 可登入的閘道與管理台（您的主機）
- 部署與操作文件；遠端培訓
- 約定期內缺陷修正
- 開源核心維持 MIT；訂造模組知識產權以合約為準
誠實邊界：YSK Omni 不是多租戶 SaaS。YSK 不把您的 GPU 變成 YSK 雲。未設定的媒體 worker 仍回 501 或短 H.264 樣本，訂造不把樣本說成正式影片引擎。不代申請 Hugging Face 或雲帳號。
商務常見問題
是。MIT 開源，可自行安裝。YSK 不向開源使用收費。代裝、接 worker 與訂造才按範圍報價。
代裝一台新機與接 worker、白標、內網的範圍差很大，報價以書面方案為準。小改動可走現有開發者外判月費技術票；大改走專案。
不會。產品仍是本機閘道。主機與權重由您擁有或由合約指定。YSK 不做多租戶 SaaS 版 YSK Omni。
常見問題 (FAQ)
直接答案：是。MIT 開源，可自行安裝使用。代裝、接 worker 或訂造見商務合作，此頁不標價。
直接答案：gctoac 包裝本機 Grok 命令列。YSK Omni 跑本機 Hugging Face 權重，文字用 llama-server 或 vLLM。
直接答案：預設連接埠 3850。命令列為 ysk-omni，短名 ysko。管理台以一次性登入碼開啟。
直接答案：圖像、語音與轉錄回 501 engine_unconfigured。未設定影片 worker 時，可能只回一段短 H.264 樣本，並非正式影片生成。
直接答案：以 AES-256-GCM 寫入 ~/.ysk-omni 的 SQLite。請備份 ENCRYPTION_KEY。
直接答案：Node.js 20 或以上。以 npm 全域安裝 ysk-omni。