开源llama.cpp Releases·原文 2026年11月2日本站收录 2026年11月3日

llama.cpp发布b12047:清理SYCL dmmv代码,q8_0重排并入通用模板

该版本的主要代码改动是SYCL后端dmmv清理(PR #31325),包括把q8_0重排dmmv折入通用模板,以及对非K与K-quant启动器做模板化;同时按惯例提供各平台预编译包。

AI解读:llama.cpp发布b12047版本,代码层面的主要变更是SYCL后端dmmv的清理,对应PR #31325。

按发布说明,改动含三项:把q8_0重排dmmv折入通用模板;对dmmv非K启动器做模板化;对dmmv K-quant启动器做模板化。

发布页按平台列出预编译产物,覆盖macOS/iOS、Linux、Android、Windows与openEuler,并含CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL等后端变体。

部分构建被标注为DISABLED:macOS Apple Silicon的KleidiAI变体与openEuler相关构建。

来源未给出这项代码清理的性能影响数据,也没有说明对各后端实际运行速度的改变。

llama.cpp发布b12047。发布说明中列出的代码改动是一项SYCL后端清理:dmmv代码整理,对应PR #31325。

b12047的代码改动

发布说明把本次改动记为“sycl: dmmv code cleanup (#31325)”,并列出三条具体内容:把q8_0重排dmmv折入通用模板;对dmmv非K启动器做模板化;对dmmv K-quant启动器做模板化。

来源未提供这些改动带来的性能数据或功能变化说明,因此无法据此判断运行速度或精度是否受影响。

发布产物与构建状态

发布页按平台提供预编译包:macOS Apple Silicon(arm64)与macOS Intel(x64)、iOS XCFramework;Linux下含Ubuntu x64/arm64/s390x的CPU构建,Ubuntu 26.04 s390x与zDNN构建,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16构建;另有Linux arm64 Snapdragon包与Android arm64包。

Windows侧提供x64/arm64 CPU构建,以及OpenCL Adreno、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0等变体。

发布说明中标注为DISABLED的包括:macOS Apple Silicon(arm64,启用KleidiAI)构建,以及openEuler的x86 310p、x86 910b(ACL Graph)、aarch64 310p、aarch64 910b(ACL Graph)构建。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观