Transformers v5.20.1发布:加入Reflection AI的Beam模型并修复旧版torch加载问题
Hugging Face Transformers发布v5.20.1,新增Reflection AI的Beam模型支持,并集中修复多个补丁,其中包括在旧版torch上加载模型失败的问题。
AI解读:Transformers v5.20.1新增对Reflection AI的Beam模型的支持,发布说明称Beam是面向编写代码和智能体(agentic)场景的“token高效、前沿规模”模型,面向希望在自己的硬件、基础设施或云上运行并定制强大模型的团队。
版本修复了在旧版torch上无法加载模型的问题——发布说明称该问题由本版本引入并已修复。其余修复包括:HunYuan-VL批量生成时的图像分配问题、专家并行下DeepGEMM Mega MoE、torch 2.7上的from_pretrained(分布式checkpointing要求torch>=2.8)、以及在torch 2.6和 2.7 上运行DtensorShardOperation。
发布说明由vasqu撰写,目前仅给出Beam的文档链接,未提供基准分数、吞吐数据或硬件要求等可核验的效果数据。
Hugging Face Transformers发布v5.20.1。发布说明称,该版本的一个特别之处是加入Reflection AI的新模型Beam:一个面向编写代码和智能体(agentic)场景的“token高效、前沿规模”模型。
发布说明同时列出多项补丁修复,并称此前破坏了在旧版torch上加载模型,本版本已修复。
新增Beam模型
发布说明将Beam描述为“token高效、前沿规模”的模型,重点面向编写代码和智能体使用场景。按发布说明的说法,它面向希望在自己的硬件、基础设施或云上运行强大模型并按需定制的团队。
发布说明只提供了Beam的文档链接,未在版本备注中给出参数规模、基准测试分数、推理硬件门槛或可运行条件等细节。
- 模型归属:Reflection AI。
- 定位(发布说明口径):token高效、前沿规模,侧重编写代码与智能体场景。
- 目标使用者(发布说明口径):希望自管硬件、基础设施或云,并对模型做定制的团队。
- 可查入口:发布说明给出Transformers文档中beam的页面链接。
旧版torch加载修复
发布说明称该版本修复了一个引入后导致旧版torch无法加载模型的问题,并强调“应该已经修好了”。
其余补丁
- 修复HunYuan-VL在批量生成时的图像分配问题(#49557,@Arnav66692)。
- 修复专家并行下的DeepGEMM Mega MoE(#49428,@IlyasMoutawwakil)。
- 修复torch 2.7上的from_pretrained:分布式checkpointing要求torch>=2.8(#49652,@naveecode)。
- 让DtensorShardOperation可在torch 2.6和 2.7 上运行(#49657,@hazelxue)。
- 修复自动映射中的一个小错误(#49664,@yonigozlan)。