跳到正文
原文
SGLang Releases· Qiaolin-Yu·· 2026-07-25精选AI 评分78

SGLang v0.5.16 发布,新增 DSpark 投机解码与 Inkling 模型支持

v0.5.16

AI 导读

SGLang 发布 v0.5.16,合并 574 个 PR,新增置信度驱动的 DSpark 投机解码算法、975B 参数多模态 MoE 模型 Inkling 支持,以及 LongCat 2.0 FP8、JetBrains Mellum v2、Pi0.5 等模型。

推荐理由

该版本引入置信度驱动的投机解码算法与多款新模型支持,并显著压缩 KV 缓存与投机显存占用,适合高吞吐推理部署参考。

来源:SGLang Releases · github.com