llama.cpp b11604发布:KleidiAI为Q4_K与Q6_K增加SME2矩阵乘法支持
该版本由Charles Xu提交,为KleidiAI后端加入SME2指令下的Q4_K和Q6_K矩阵乘法支持;发布包覆盖macOS、Linux、Windows、Android等平台,macOS的KleidiAI构建仍标记为DISABLED。
AI解读:提交信息由Signed-off-by: Charles Xu署名,关联PR #29219。
发布说明中macOS Apple Silicon(arm64)的KleidiAI enabled构建链接标注为DISABLED。
llama.cpp发布b11604版本,主要变更是在KleidiAI后端加入SME2对Q4_K和Q6_K矩阵乘法的支持,提交由Charles Xu署名,关联PR #29219。
本次新增的支持范围
发布说明显示的变更标题为“kleidiai: add SME2 Q4_K and Q6_K matmul support (#29219)”,提交记录中出现多条Change-Id,署名为Charles Xu。
这是该版本列出的主要改动,面向KleidiAI后端;发布页其余内容为各平台构建产物和下载链接。
- 改动主题:为KleidiAI增加SME2下的Q4_K、Q6_K矩阵乘法支持
- 关联PR:#29219
- 署名:Charles Xu
发布包与平台状态
b11604的构建产物覆盖macOS/iOS、Linux、Android、Windows,以及UI包。macOS Apple Silicon(arm64)的KleidiAI enabled构建被标记为DISABLED,链接指向PR #23780。openEuler相关构建同样标注为DISABLED,链接指向PR #23705。
Linux侧包含Ubuntu x64、arm64、s390x的CPU构建,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等构建;另有Linux arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)构建。Windows侧包含CPU、OpenCL Adreno、CUDA 12.4/13.4、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0构建。
- macOS Apple Silicon(arm64,KleidiAI enabled):DISABLED
- openEuler构建:DISABLED
- Linux覆盖Ubuntu x64/arm64/s390x及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL等
- Windows覆盖CPU、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0等
- Android提供arm64以及Snapdragon(CPU、Adreno GPU、Hexagon NPU)构建