SGLang Releases· Fridge003·· 2026-08-25精选AI 评分78
SGLang v0.5.18 发布,新增 Muse Glimmer 等模型支持并优化启动与解码性能
v0.5.18
AI 导读
SGLang 发布 v0.5.18,包含 212 位贡献者的 710 个 PR,新增 Muse Glimmer、Intern-S2-Mobius、SANA-Video、LTX-2.5、Cosmos3 等模型支持。
推荐理由
该版本通过启动阶段权重加载与 CUDA graph 捕获重叠、TP LMHead all-to-all 等改动,缩短了服务冷启动与解码延迟。
来源:SGLang Releases · github.com