SGLang Releases· Qiaolin-Yu·· 2026-07-25精选AI 评分78
SGLang v0.5.16 发布,新增 DSpark 投机解码与 Inkling 模型支持
v0.5.16
AI 导读
SGLang 发布 v0.5.16,合并 574 个 PR,新增置信度驱动的 DSpark 投机解码算法、975B 参数多模态 MoE 模型 Inkling 支持,以及 LongCat 2.0 FP8、JetBrains Mellum v2、Pi0.5 等模型。
推荐理由
该版本引入置信度驱动的投机解码算法与多款新模型支持,并显著压缩 KV 缓存与投机显存占用,适合高吞吐推理部署参考。
来源:SGLang Releases · github.com