MIT 開源 v1.7.4:Grok CLI Gateway 把本機 Grok 變成可上線 OpenAI 閘道

Key takeaway

本機已有 Grok 命令列,卻想用 OpenAI SDK、Open WebUI 或既有後端直接連上?YSK Limited 自家產品 Grok CLI Gateway(gctoac) 以 MIT 開源 v1.7.4 把 grok -p 無介面模式包裝成可上線的 OpenAI 相容 HTTP 閘道,預設連接埠 3847,指令為 gctoac/gcoa。開發者用熟悉的介面,就能把本機 Grok 接到生產級佇列、加密與管理台。

MIT 開源 v1.7.4:Grok CLI Gateway 把本機 Grok 變成可上線 OpenAI 閘道

本機已有 Grok 命令列,卻想用 OpenAI SDK、Open WebUI 或既有後端直接連上?YSK Limited 自家產品 Grok CLI Gateway(gctoac)MIT 開源 v1.7.4grok -p 無介面模式包裝成可上線的 OpenAI 相容 HTTP 閘道,預設連接埠 3847,指令為 gctoacgcoa。開發者用熟悉的介面,就能把本機 Grok 接到生產級佇列、加密與管理台。

一、這個特點解決什麼痛點

不少團隊已在本機跑 Grok CLI,但產品與內部工具仍寫死 OpenAI/Anthropic SDK。每次要麼重寫客戶端,要麼停在單機指令列,難以給同事或服務共用。MIT 開源的 gctoac 正好補上這段缺口:

  • 既有 OpenAI 開發套件、curl、Open WebUI 幾乎可直接指向本機閘道
  • 同一埠同時提供對話完成、回應介面與 Anthropic Messages
  • 開源可自建、可審計程式碼路徑,版本公開為 v1.7.4

對香港初創與技術團隊而言,等於用一套閘道,把「本機模型能力」變成「可被服務呼叫的 API」。

二、特點背後的完整方案

Grok CLI Gateway 並非只做協議轉譯,而是一條完整的生產路徑:用戶端 → Express 閘道(認證、限流、安全/代理)→ AES-GCM 加密佇列 → 工作程序 → grok -p

OpenAI/Anthropic 相容介面

官網列明支援 POST /v1/chat/completionsPOST /v1/responsesGET /v1/models,以及 POST /v1/messages(Bearer 或 x-api-key)。既有 SDK 改 base URL 與金鑰即可對接。

加密、佇列與管理台

提示詞、回覆、檔案與佇列資料以 AES-256-GCM 保護;介面金鑰以 scrypt 雜湊儲存。對話佇列採 SQLite:公平輪詢、背壓、死信與冪等鍵,重啟後可回收進行中工作。管理台以 OTP 一次性登入,工作階段約 12 小時,可檢視佇列、媒體、系統、PM2、DDoS 與介面能力。

防濫用與媒體能力

內建防護中心:限流、自動封鎖、黑名單與反向代理 IP 來源(DDoS center)。媒體庫支援生成/編輯,以及圖生影片 1–15 秒、reference-to-video 與預設配音。

安裝與命令列

以 npm 全域安裝grok-cli-to-openai-compatible,安裝後執行 gctoac(別名 gcoa),預設埠 3847。命令列涵蓋生命週期、設定、佇列、金鑰、Grok inspect/sessions 與管理台 OTP;運維面支援 SQLite、PM2、日誌自動裁剪與自我更新。

產品頁見:Grok CLI Gateway

三、誰最適合用/香港應用場景

  • 已用 OpenAI SDK 的產品團隊:把 base URL 指到本機閘道,沿用現有客戶端程式碼
  • 內部工具與 Open WebUI 使用者:同一埠接上對話與模型列表,讓同事共用本機 Grok
  • 需要 Anthropic Messages 相容的整合:同一閘道同時服務多套協議客戶端
  • 要上線佇列與防護的香港技術團隊:SQLite 佇列 + DDoS 中心 + OTP 管理台,適合小型自建部署
  • 多模態試作:圖生影片 1–15 秒與資產預覽,方便 Demo 與內部實驗

香港開發者常在筆電或辦公室主機跑本機模型,又要對接雲端風格的 API;gctoac 把這兩端接起來,讓本機 Grok 變成可被服務呼叫的閘道。

四、如何開始

  1. 確認本機已可執行 grok -p,並準備好要對外的網路環境
  2. 安裝套件 grok-cli-to-openai-compatible,執行 gctoac 或 gcoa(預設埠 3847)
  3. 閱讀產品說明與介面一覽:https://ysk.hk/products/gctoac
  4. 需要企業私有 LLM 全託管、客製整合或代運維,WhatsApp +852 6160 4242 或電郵 [email protected] 聯絡 YSK Limited

結語

MIT 開源 v1.7.4 的 Grok CLI Gateway,讓本機 Grok 以 OpenAI/Anthropic 相容介面上線,並帶上加密佇列、OTP 管理台與 DDoS 防護。想把命令列能力變成可呼叫的閘道,請直接查看產品頁:Grok CLI Gateway(gctoac)


參考來源

Related services & products