llama.cpp发布b11460:SYCL后端新增IQ3_S多列MMVQ
该版本由llama.cpp Releases发布,唯一代码变更为sycl后端加入IQ3_S多列MMVQ(PR #29500),同时提供多平台预编译二进制包下载。
AI解读:IQ3_S多列MMVQ是矩阵-向量乘法的量化运算,该改动适用于使用SYCL后端的llama.cpp构建。
发布页同时提供各平台预编译二进制包,覆盖macOS/iOS、Linux、Android、Windows、openEuler以及UI资源。
macOS Apple Silicon的KleidiAI启用版本和openEuler相关包在本次发布中标注为DISABLED。
llama.cpp于b11460版本中在SYCL后端加入IQ3_S多列MMVQ,对应PR #29500。
GitHub发布说明列出的代码改动仅此一项,其余内容为各平台预编译二进制包的下载链接。
本次新增的代码改动
发布说明标题显示:sycl: add IQ3_S multi-column MMVQ (#29500)。该说明未给出性能数据、适用模型范围或验证结果。
- 变更内容:sycl后端新增IQ3_S多列MMVQ实现
- 关联PR:#29500
- 版本号:b11460
同期提供的预编译包
发布页列出多平台二进制包,供直接下载使用。macOS Apple Silicon的KleidiAI启用版本和openEuler相关包标注为DISABLED,即当前不可用。
- macOS/iOS:Apple Silicon (arm64)、Intel (x64)、iOS XCFramework;Apple Silicon的KleidiAI启用版本标注DISABLED
- Linux:Ubuntu x64/arm64/s390x CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16,以及Snapdragon专用包
- Android:arm64 CPU与Snapdragon(CPU、Adreno GPU、Hexagon NPU)包
- Windows:CPU、OpenCL Adreno、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0包
- openEuler:x86与aarch64的 310p、910b(ACL Graph)包均标注DISABLED
- UI:提供独立的UI压缩包