跳到正文
原文
SGLang Releases· Fridge003·· 2026-08-25精选AI 评分78

SGLang v0.5.18 发布,新增 Muse Glimmer 等模型支持并优化启动与解码性能

v0.5.18

AI 导读

SGLang 发布 v0.5.18,包含 212 位贡献者的 710 个 PR,新增 Muse Glimmer、Intern-S2-Mobius、SANA-Video、LTX-2.5、Cosmos3 等模型支持。

推荐理由

该版本通过启动阶段权重加载与 CUDA graph 捕获重叠、TP LMHead all-to-all 等改动,缩短了服务冷启动与解码延迟。

来源:SGLang Releases · github.com