Ai2/Hugging Face/官方:推出 Olmo-core 3——開源可擴至萬億參數級 MoE 訓練基建;專家池八至一百二十八、吞吐降幅少於百分之五;八卡 B300 約二點七倍吞吐
Allen Institute for AI(Ai2)於二零二六年十月一日透過 Hugging Face 官方部落格發布 Olmo-core 3,把開源大型語言模型訓練框架升級為可擴至萬億參數級的 Mixture-of-Experts(MoE)訓練系統。官方基準顯示,專家池由八擴至一百二十八、總參數由約四十六億增至約四...