开源llama.cpp Releases·原文 2026年10月14日

llama.cpp b11604发布:KleidiAI为Q4_K与Q6_K增加SME2矩阵乘法支持

该版本由Charles Xu提交,为KleidiAI后端加入SME2指令下的Q4_K和Q6_K矩阵乘法支持;发布包覆盖macOS、Linux、Windows、Android等平台,macOS的KleidiAI构建仍标记为DISABLED。

AI解读:提交信息由Signed-off-by: Charles Xu署名,关联PR #29219。

发布说明中macOS Apple Silicon(arm64)的KleidiAI enabled构建链接标注为DISABLED。

llama.cpp发布b11604版本,主要变更是在KleidiAI后端加入SME2对Q4_K和Q6_K矩阵乘法的支持,提交由Charles Xu署名,关联PR #29219。

本次新增的支持范围

发布说明显示的变更标题为“kleidiai: add SME2 Q4_K and Q6_K matmul support (#29219)”,提交记录中出现多条Change-Id,署名为Charles Xu。

这是该版本列出的主要改动,面向KleidiAI后端;发布页其余内容为各平台构建产物和下载链接。

  • 改动主题:为KleidiAI增加SME2下的Q4_K、Q6_K矩阵乘法支持
  • 关联PR:#29219
  • 署名:Charles Xu

发布包与平台状态

b11604的构建产物覆盖macOS/iOS、Linux、Android、Windows,以及UI包。macOS Apple Silicon(arm64)的KleidiAI enabled构建被标记为DISABLED,链接指向PR #23780。openEuler相关构建同样标注为DISABLED,链接指向PR #23705。

Linux侧包含Ubuntu x64、arm64、s390x的CPU构建,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等构建;另有Linux arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)构建。Windows侧包含CPU、OpenCL Adreno、CUDA 12.4/13.4、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0构建。

  • macOS Apple Silicon(arm64,KleidiAI enabled):DISABLED
  • openEuler构建:DISABLED
  • Linux覆盖Ubuntu x64/arm64/s390x及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL等
  • Windows覆盖CPU、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0等
  • Android提供arm64以及Snapdragon(CPU、Adreno GPU、Hexagon NPU)构建

信息来源

llama.cpp Releases原始来源