开源llama.cpp Releases·原文 2026年9月17日

llama.cpp b11010发布:为NV显卡的argsort_large.comp做Vulkan规避

版本说明只有一行:Vulkan后端针对NVIDIA的某个bug绕行,改动对应PR #28975;其余内容是各平台预编译包清单。

llama.cpp发布b11010构建。版本说明中唯一的代码改动是“vulkan: work around NV bug with argsort_large.comp”,对应PR #28975。

这条说明没有展开bug的具体表现、触发条件、受影响的NVIDIA显卡或驱动版本,也没有说明规避方式是否影响该算子原有性能。

b11010同时按平台提供预编译包,覆盖macOS、iOS、Linux、Android、Windows以及UI,并附带各后端所需的运行时库。

macOS Apple Silicon的KleidiAI enabled构建和openEuler的多个构建在本版本中仍标记为DISABLED。

这一版改了什么:Vulkan后端绕开NVIDIA的argsort_large.comp bug

版本说明的第一行也是唯一的功能描述:Vulkan后端针对NV(NVIDIA)在argsort_large.comp上的bug做work around,PR编号 #28975。

说明未提供该bug的影响范围,包括哪些NVIDIA型号、驱动版本会命中,也未说明规避是改shader、改调用路径还是加条件分支。

可用构建:各平台预编译包与运行时库

b11010的发布资产按平台分组,标注为Website、Attestations、macOS/iOS、Linux、Android、Windows、openEuler、UI。

Linux侧包含Ubuntu x64/arm64/s390x的CPU构建,以及Vulkan(x64、arm64)、CUDA 12.8(x64)、CUDA 13.3(x64、arm64)、ROCm 10.0(x64)、OpenVINO 2026.3.1(x64)、SYCL FP32/FP16(x64)构建,并单独提供CUDA 12.8与CUDA 13.3的运行时库压缩包。

Windows侧包含x64/arm64的CPU构建,arm64的OpenCL Adreno构建,CUDA 12.4(x64)、CUDA 13.4(x64、arm64)及其DLL包,Vulkan(x64)、OpenVINO 2026.3.1(x64)、SYCL(x64)、ROCm 10.0(x64)构建。

macOS/iOS侧包含Apple Silicon(arm64)、Intel(x64)构建以及iOS XCFramework;Android侧提供arm64 CPU构建;另有独立的UI包。

openEuler分组下列出x86 310p、x86 910b(ACL Graph)、aarch64 310p、aarch64 910b(ACL Graph)等条目,但均标注为DISABLED。

macOS Apple Silicon的KleidiAI enabled构建同样标注为DISABLED,并链接到PR #23780。

信息来源

llama.cpp Releases原始来源