預設埠 3850:YSK Omni 讓本機模型閘道即時就緒
本機要跑大型語言模型,最希望開箱就能連上固定閘道。YSK Omni 預設以埠 3850 提供 OpenAI 相容 HTTP 介面,把 Hugging Face 權重留在您的機器上使用,文字可走 llama-server 或 vLLM,現有開發套件與 Open WebUI 即可指向本機並開始呼叫。立即到產品頁了解如何一鍵...
本機要跑大型語言模型,最希望開箱就能連上固定閘道。YSK Omni 預設以埠 3850 提供 OpenAI 相容 HTTP 介面,把 Hugging Face 權重留在您的機器上使用,文字可走 llama-server 或 vLLM,現有開發套件與 Open WebUI 即可指向本機並開始呼叫。立即到產品頁了解如何一鍵...