llama.cpp b12173为OpenCL后端补齐repeat对f16、i32、i16、bf16的支持
该版本把OpenCL后端的repeat操作扩展到f16、i32、i16、bf16四种数据类型,并同步更新ops;提交记录显示Codex以Assisted-by形式参与。
AI解读:llama.cpp发布b12173,变更核心是OpenCL后端支持repeat操作,覆盖f16、i32、i16、bf16。
提交记录列出三步:先加f16 repeat,再支持i32、i16、bf16,最后更新ops;每步都标注Assisted-by: Codex。
llama.cpp发布b12173版本,主要变更为OpenCL后端新增repeat操作对f16、i32、i16、bf16的支持(#31782)。
提交说明按顺序记录:先为OpenCL添加f16 repeat,再扩展到i32、i16、bf16,随后更新ops;三条均标注Assisted-by: Codex。
本次改动涉及的后端与数据类型
这是一次后端算子覆盖范围的补充。与此前支持的组合相比,b12173让OpenCL路径上的repeat可以处理f16、i32、i16、bf16。来源未说明该操作在模型推理中的具体调用场景,也未给出性能或精度数据。
- 变更对象:OpenCL后端的repeat操作
- 新增数据类型:f16、i32、i16、bf16
- 关联PR:#31782
- 协作标注:Assisted-by: Codex