Hugging Face/Dharma-AI:VocabX 按成本特化小模型詞表——作文評分實測推理成本約降七成七;品質分數同步上升
Dharma-AI 團隊於二零二六年十月二十一日在 Hugging Face 官方網誌發表文章,預告即將公開的 VocabX 論文結果:針對已微調到單一領域的小語言模型,把詞表按「每個 token 的服務成本」而非出現頻率重新設計,可在不更換底模的前提下,把實測推理成本砍約百分之七十七。他們以生產環境中的葡萄牙語作文自...
Dharma-AI 團隊於二零二六年十月二十一日在 Hugging Face 官方網誌發表文章,預告即將公開的 VocabX 論文結果:針對已微調到單一領域的小語言模型,把詞表按「每個 token 的服務成本」而非出現頻率重新設計,可在不更換底模的前提下,把實測推理成本砍約百分之七十七。他們以生產環境中的葡萄牙語作文自...
Hugging Face 於二零二六年十月二十日在官方網誌宣布,面向 Apple 平台的本地語言模型整合庫 AnyLanguageModel 1.0 正式推出,並同步釋出 swift-huggingface 1.0 與 swift-xet 1.0;開發者可把 Apple Foundation Models 的呼叫改成同...
Hugging Face 於二〇二六年十月二十日宣布,PyTorch 原生後端 TorchTPU 已讓 TPU 成為一般裝置:Transformers、Diffusers 與 Kernels 可在 Google Cloud TPU 上以慣用 PyTorch 程式碼運行,毋須再繞道 torch_xla 或改學 JAX;官...
把本機 Hugging Face 權重放在一層 OpenAI 相容 HTTP 閘道後面,現有 SDK、curl 與 Open WebUI 幾乎可直接指向本機:YSK Omni v1.0.4(MIT)以 CLI「ysk-omni/ysko」預設埠 3850 上線,文字走 llama-server 或 vLLM,對話以 A...
美國新實驗室 Reflection 於十月十六日透過 Hugging Face 正式開源首款模型 Beam:稀疏混合專家架構共五百零一億參數、每 token 約激活二十三億參數,上下文窗口達一百萬 token,授權為 Apache 2.0。官方與 Hugging Face 同步說明,Beam 主打編程與長程智能體工作負...
Hugging Face 官方部落格宣布,美國新實驗室 Reflection 首個開放權重模型 Beam 已正式上架,權重以 Apache 2.0 授權公開;來源真實性已驗證:本文事實核對自 Hugging Face Blog《Welcome Beam》(2026-10-16)、模型卡 reflection/Beam-...
想在本機載入 Hugging Face 權重,又希望沿用熟悉的 OpenAI 風格 HTTP 呼叫?YSK Omni 正是為此而設的本機閘道:把您手上的模型權重,變成可被現有客戶端、腳本與內部工具直接呼叫的相容介面。 MIT 開源 v1.0.2,經 npm 安裝 CLI(ysk-omni/ysko),預設埠 3850;...
艾倫人工智慧研究所(Ai2)基礎設施團隊於二零二六年十月九日在 Hugging Face 官方企業網誌發表〈Impactful scheduling for GPU clusters〉,說明如何以 GPU 時間預算、階層公平共享與時間切片合約,取代傳統優先級排程。三十日測試期間,團隊獲付應付 GPU 時數約九成八;最大...