SGLang Releases· Qiaolin-Yu·· 28 天前精选AI 评分82
SGLang v0.5.19 发布,新增 beam search 与 DeepEP v2 后端
v0.5.19
AI 导读
SGLang 发布 v0.5.19,合并 786 个 PR、来自 214 位贡献者,新增 Qwen3.8、Ling-3.0、Spark2.5、Granite 4.2 等模型支持,并引入 beam search 与 DeepEP v2 ElasticBuffer MoE 后端。
推荐理由
该版本新增 beam search 与 DeepEP v2 弹性缓冲后端,并在 AMD、Hopper 与 Blackwell 上给出多项可量化的推理吞吐与延迟收益。
来源:SGLang Releases · github.com