重点

vLLM 发布 v0.28.0 版本,大幅优化 Kimi-K3 性能

vLLM 发布了 v0.28.0 版本,包含 584 次提交,重点对 Kimi-K3 模型进行了跨栈性能优化,并支持了解码上下文并行(DCP)。

潜龙编辑部
发布于 · 2026/08/28 21:01
3 分钟·来源: github.com
vLLM 发布 v0.28.0 版本,大幅优化 Kimi-K3 性能
illustration · QianLong editorial

核心摘要

vLLM 发布了 v0.28.0 版本,包含 584 次提交,重点对 Kimi-K3 模型进行了跨栈性能优化,并支持了解码上下文并行(DCP)。

机会与影响

依赖 Kimi-K3 模型的开发者应升级到 vLLM v0.28.0,以充分利用其性能提升和效率优化,加速模型部署和运行。

来源信息

该条资讯来自 github.com。标签:重点。相关平台:github。

原文