开源llama.cpp Releases·原文 2026年10月7日

llama.cpp发布b11460:SYCL后端新增IQ3_S多列MMVQ

该版本由llama.cpp Releases发布,唯一代码变更为sycl后端加入IQ3_S多列MMVQ(PR #29500),同时提供多平台预编译二进制包下载。

AI解读:IQ3_S多列MMVQ是矩阵-向量乘法的量化运算,该改动适用于使用SYCL后端的llama.cpp构建。

发布页同时提供各平台预编译二进制包,覆盖macOS/iOS、Linux、Android、Windows、openEuler以及UI资源。

macOS Apple Silicon的KleidiAI启用版本和openEuler相关包在本次发布中标注为DISABLED。

llama.cpp于b11460版本中在SYCL后端加入IQ3_S多列MMVQ,对应PR #29500。

GitHub发布说明列出的代码改动仅此一项,其余内容为各平台预编译二进制包的下载链接。

本次新增的代码改动

发布说明标题显示:sycl: add IQ3_S multi-column MMVQ (#29500)。该说明未给出性能数据、适用模型范围或验证结果。

  • 变更内容:sycl后端新增IQ3_S多列MMVQ实现
  • 关联PR:#29500
  • 版本号:b11460

同期提供的预编译包

发布页列出多平台二进制包,供直接下载使用。macOS Apple Silicon的KleidiAI启用版本和openEuler相关包标注为DISABLED,即当前不可用。

  • macOS/iOS:Apple Silicon (arm64)、Intel (x64)、iOS XCFramework;Apple Silicon的KleidiAI启用版本标注DISABLED
  • Linux:Ubuntu x64/arm64/s390x CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16,以及Snapdragon专用包
  • Android:arm64 CPU与Snapdragon(CPU、Adreno GPU、Hexagon NPU)包
  • Windows:CPU、OpenCL Adreno、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0包
  • openEuler:x86与aarch64的 310p、910b(ACL Graph)包均标注DISABLED
  • UI:提供独立的UI压缩包

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观