llama.cpp b11706修复SYCL后端Q4_0/Q8_0权重重排后的提示处理回退
该版本由llama.cpp发布,提交标题写明针对SYCL后端在Q4_0/Q8_0权重重排后出现的提示处理(prompt-processing)性能回退进行修复(#30374);发布页同时列出各平台预编译包。
AI解读:llama.cpp发布b11706版本,主要变更是一条修复:SYCL后端在Q4_0/Q8_0权重重排之后出现的prompt-processing回退(PR #30374)。
该说明来自发布页的提交标题,发布页未给出回退的具体幅度、受影响设备或修复前后的对比数据。
b11706提供macOS/iOS、Linux、Android、Windows及UI的预编译包;Linux与Windows均包含SYCL构建,此外还有CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO 2026.4.1等后端版本。
发布页中macOS Apple Silicon的KleidiAI启用版本和openEuler相关条目标注为DISABLED(并附有对应PR链接),这些构建在本次发布中未启用。
llama.cpp发布b11706版本,提交标题为“sycl: fix prompt-processing regression after Q4_0/Q8_0 weight reorder (#30374)”,即在SYCL后端修复Q4_0/Q8_0权重重排后出现的提示处理回退。
修复内容与范围
发布页只给出提交标题这一条变更说明:修复对象是SYCL后端;触发条件被描述为Q4_0/Q8_0权重重排之后;受影响的行为是prompt-processing回退。对应PR编号为 #30374。
发布页没有列出回退的具体表现、性能下降幅度、涉及的Intel GPU型号或驱动版本,也没有给出修复前后的基准数据,因此无法据此判断实际改善程度。
同版本提供的构建
b11706的发布产物覆盖macOS/iOS、Linux、Android、Windows以及UI。其中Linux和Windows均提供SYCL构建(Ubuntu x64 SYCL FP32/FP16、Windows x64 SYCL),与本次修复的后端对应。
- Linux:Ubuntu x64/arm64/s390x CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16,以及Snapdragon(CPU、Adreno GPU、Hexagon NPU)等。
- Windows:x64/arm64 CPU、OpenCL Adreno、CUDA 12.4、CUDA 13.4(含arm64)、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0。
- macOS/iOS:Apple Silicon arm64、Intel x64、iOS XCFramework;KleidiAI启用版本标注为DISABLED。
- Android:arm64 CPU与Snapdragon版本;openEuler相关条目标注为DISABLED。