开源vLLM Releases·原文 2026年8月11日本站收录 2026年9月5日

vLLM发布v0.27.1补丁,支持量化DSpark Markov头

该补丁版本在v0.27.0基础上新增对量化DSpark Markov头的支持。

AI解读:vLLM的这次补丁更新,直接为使用DSpark模型(可能是一种基于马尔可夫链的架构)的用户解决了量化模型运行的问题。此前,v0.27.0可能无法正确处理量化后的DSpark Markov头,导致模型无法加载或推理出错。

现在v0.27.1通过支持量化DSpark Markov头,让这类模型的部署变得更加顺畅。对于正在使用vLLM且需要运行量化DSpark模型的开发者,升级到这个版本是必要的;如果你没有使用这类模型,这个补丁不影响你的现有配置。

vLLM项目于 2025 年发布v0.27.1补丁版本,在上一版v0.27.0的基础上新增对量化DSpark Markov头的支持(PR #50424)。该版本由khluu发布。

信息来源

vLLM Releases原始来源

更多

新闻专题
外观