TensorRT-LLM Releases· tongyuantongyu·· 2026-08-31精选AI 评分62
TensorRT-LLM v1.3.0rc25 发布，KV cache manager V2 默认启用
v1.3.0rc25
AI 导读
NVIDIA TensorRT-LLM 发布 v1.3.0rc25，将 KV cache manager V2 设为 DeepSeek V3/R1/V3 Lite。
推荐理由
KV cache manager V2 默认启用并扩展 DSA、零拷贝 token 传递与分布式池重平衡，同时新增多款模型与视觉生成支持。
来源：TensorRT-LLM Releases · github.com