开源llama.cpp Releases·原文 2026年10月14日

llama.cpp b11603发布:Vulkan后端优化大池化窗口下的pool_2d

该版本在池化窗口大于一个subgroup时,改用整个subgroup计算每个输出,发布页同时列出各平台预编译包。

AI解读:发布页列出macOS/iOS、Linux、Android、Windows、openEuler和UI的预编译产物,覆盖CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL、OpenCL Adreno等构建。

其中macOS Apple Silicon的KleidiAI构建标注为DISABLED,openEuler相关构建也标注为DISABLED。

发布说明未给出性能提升数字或基准测试结果,也没有说明该优化对哪些模型或场景产生何种幅度的变化。

llama.cpp发布b11603构建版本。发布说明中记录的代码改动只有一项:Vulkan后端优化pool_2d,当池化窗口大于一个subgroup时,使用整个subgroup计算每个输出(PR #30119)。

该发布同时提供多平台预编译包,包括macOS Apple Silicon(arm64)、macOS Intel(x64)、iOS XCFramework,以及Linux、Android、Windows、openEuler和UI构建。

Vulkan pool_2d的改动内容

发布说明写明:当池化窗口大于一个subgroup时,用整个subgroup来计算每个输出。改动以PR #30119 提交,归入Vulkan后端优化。

说明中没有提供基准数据,也没有说明该改动影响哪些具体模型或工作负载。

随版本发布的构建产物

发布页按平台列出可下载的预编译包:macOS/iOS提供Apple Silicon(arm64)、Intel(x64)和iOS XCFramework;macOS Apple Silicon的KleidiAI enabled版本被标注为DISABLED。

Linux覆盖Ubuntu x64/arm64/s390x CPU,以及Ubuntu x64与arm64的Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16,另有Linux arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)构建。

Android提供arm64 CPU和arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)构建;Windows覆盖x64/arm64 CPU、arm64 OpenCL Adreno,以及CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0等构建。

openEuler的x86 310p、x86 910b(ACL Graph)、aarch64 310p、aarch64 910b(ACL Graph)构建均标注为DISABLED。UI提供独立的tar.gz包。

信息来源

llama.cpp Releases原始来源