跳到正文
原文
vLLM Releases· LucasWilkinson·· 1 天前AI 评分42

vLLM v0.31.0rc4 发布:修复 FULL graphs 下 MTP 接受率崩溃问题

v0.31.0rc4

AI 导读

vLLM 发布 v0.31.0rc4,针对 HiSparse 场景修复了 FULL graphs 下 MTP 接受率崩溃的问题。该版本为候选发布版(rc),主要聚焦上述 Bugfix,未披露其他功能改动或性能数据。

来源:vLLM Releases · github.com