跳到正文
原文
SGLang Releases· Qiaolin-Yu·· 28 天前精选AI 评分82

SGLang v0.5.19 发布,新增 beam search 与 DeepEP v2 后端

v0.5.19

AI 导读

SGLang 发布 v0.5.19,合并 786 个 PR、来自 214 位贡献者,新增 Qwen3.8、Ling-3.0、Spark2.5、Granite 4.2 等模型支持,并引入 beam search 与 DeepEP v2 ElasticBuffer MoE 后端。

推荐理由

该版本新增 beam search 与 DeepEP v2 弹性缓冲后端,并在 AMD、Hopper 与 Blackwell 上给出多项可量化的推理吞吐与延迟收益。

来源:SGLang Releases · github.com