跳到正文
原文
TensorRT-LLM Releases· mikeiovine·· 2026-07-23精选AI 评分62

TensorRT-LLM 发布 v1.3.0rc22,新增 DeepSeek-V4-Pro 配置与投机解码支持

v1.3.0rc22

AI 导读

NVIDIA TensorRT-LLM 发布 v1.3.0rc22 候选版本,新增 DeepSeek-V4-Pro 精选配置、DeepSeek DSpark 与 Laguna DFlash 投机解码支持,并扩展 Qwen3-VL 图文混合模态请求。

推荐理由

该版本新增 DeepSeek-V4-Pro 配置与 DSpark、DFlash 投机解码支持,并修复多 GPU 精度与显存问题,适合关注推理部署的开发者参考。

来源:TensorRT-LLM Releases · github.com