开源Transformers Releases·原文 2026年7月16日本站收录 2026年9月5日

Hugging Face Transformers发布v5.14.1补丁,修复Inkling模型集成问题

该补丁修复了引入Inkling模型后出现的几个问题,包括辅助生成与预填充阶段的缓存和位置偏置相关缺陷。

AI解读:这次补丁主要解决Hugging Face Transformers在集成Inkling模型时暴露的一组兼容性问题。具体来说,它修复了使用EncoderDecoderCache的模型在辅助生成(assisted generation)时出现的故障,以及Inkling模型在预填充(prefill)阶段结合StaticCache和SDPA无填充模式时因position_bias引发的错误。

对开发者而言,如果你的工作流依赖辅助生成加速推理,或使用Inkling这类带位置偏置的模型,升级到v5.14.1可以避免这些崩溃或错误。补丁还顺带更新了FP8内核版本并修复了DeepGemm在多设备上的问题,前者可能带来性能或兼容性改进,后者则让多卡推理更稳定。

建议使用相关功能的用户尽快升级,但对普通Transformers用户来说,这次改动不影响日常API,无需立即行动。

Hugging Face于 2025 年发布Transformers v5.14.1补丁版本,修复了Inkling模型集成过程中出现的一系列问题,包括辅助生成(assisted decoding)和预填充(prefill)阶段的相关缺陷。

信息来源

更多

新闻专题
外观