开源llama.cpp Releases·原文 2026年11月6日

llama.cpp b12173为OpenCL后端补齐repeat对f16、i32、i16、bf16的支持

该版本把OpenCL后端的repeat操作扩展到f16、i32、i16、bf16四种数据类型,并同步更新ops;提交记录显示Codex以Assisted-by形式参与。

AI解读:llama.cpp发布b12173,变更核心是OpenCL后端支持repeat操作,覆盖f16、i32、i16、bf16。

提交记录列出三步:先加f16 repeat,再支持i32、i16、bf16,最后更新ops;每步都标注Assisted-by: Codex。

llama.cpp发布b12173版本,主要变更为OpenCL后端新增repeat操作对f16、i32、i16、bf16的支持(#31782)。

提交说明按顺序记录:先为OpenCL添加f16 repeat,再扩展到i32、i16、bf16,随后更新ops;三条均标注Assisted-by: Codex。

本次改动涉及的后端与数据类型

这是一次后端算子覆盖范围的补充。与此前支持的组合相比,b12173让OpenCL路径上的repeat可以处理f16、i32、i16、bf16。来源未说明该操作在模型推理中的具体调用场景,也未给出性能或精度数据。

  • 变更对象:OpenCL后端的repeat操作
  • 新增数据类型:f16、i32、i16、bf16
  • 关联PR:#31782
  • 协作标注:Assisted-by: Codex

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观