llama.cpp发布b12047:清理SYCL dmmv代码,q8_0重排并入通用模板
该版本的主要代码改动是SYCL后端dmmv清理(PR #31325),包括把q8_0重排dmmv折入通用模板,以及对非K与K-quant启动器做模板化;同时按惯例提供各平台预编译包。
AI解读:llama.cpp发布b12047版本,代码层面的主要变更是SYCL后端dmmv的清理,对应PR #31325。
按发布说明,改动含三项:把q8_0重排dmmv折入通用模板;对dmmv非K启动器做模板化;对dmmv K-quant启动器做模板化。
发布页按平台列出预编译产物,覆盖macOS/iOS、Linux、Android、Windows与openEuler,并含CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL等后端变体。
部分构建被标注为DISABLED:macOS Apple Silicon的KleidiAI变体与openEuler相关构建。
来源未给出这项代码清理的性能影响数据,也没有说明对各后端实际运行速度的改变。
llama.cpp发布b12047。发布说明中列出的代码改动是一项SYCL后端清理:dmmv代码整理,对应PR #31325。
b12047的代码改动
发布说明把本次改动记为“sycl: dmmv code cleanup (#31325)”,并列出三条具体内容:把q8_0重排dmmv折入通用模板;对dmmv非K启动器做模板化;对dmmv K-quant启动器做模板化。
来源未提供这些改动带来的性能数据或功能变化说明,因此无法据此判断运行速度或精度是否受影响。
发布产物与构建状态
发布页按平台提供预编译包:macOS Apple Silicon(arm64)与macOS Intel(x64)、iOS XCFramework;Linux下含Ubuntu x64/arm64/s390x的CPU构建,Ubuntu 26.04 s390x与zDNN构建,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16构建;另有Linux arm64 Snapdragon包与Android arm64包。
Windows侧提供x64/arm64 CPU构建,以及OpenCL Adreno、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0等变体。
发布说明中标注为DISABLED的包括:macOS Apple Silicon(arm64,启用KleidiAI)构建,以及openEuler的x86 310p、x86 910b(ACL Graph)、aarch64 310p、aarch64 910b(ACL Graph)构建。