开源llama.cpp Releases·原文 2026年10月25日

llama.cpp b11877为Vulkan后端conv3d增加更大tile size,仅限coopmat2

llama.cpp发布b11877构建,其中Vulkan后端为conv3d新增更大tile size,该改动仅适用于coopmat2,且只在新版驱动上启用;同时补充了若干代表性后端测试。

AI解读:这次改动影响的是llama.cpp的Vulkan后端中conv3d算子的tile size选择。提交说明称更大tile size实际只在coopmat2路径使用,因为该路径不需要用共享内存存放输出。

使用条件有两层:一是后端路径需走coopmat2;二是按提交说明,大tile size只对较新的驱动版本生效,旧驱动不会启用这一配置。

提交说明提到新增了若干代表性后端测试,但发布页未给出性能数据或测试结论,因此无法据此判断提速幅度或对哪些显卡收益最大。

llama.cpp发布b11877版本,其中一项提交为Vulkan后端增加conv3d的更大tile size,提交说明标注该配置仅用于coopmat2。

提交说明称,选用更大tile size的实际原因是coopmat2路径无需共享内存存放输出——若用共享内存会超过 64KB。提交还写明,大tile size只对较新的驱动版本应用。

该提交同时增加了若干代表性后端测试。提交说明称,这一改动源自作者参考sd.cpp的Wan VAE后由codex给出的方案。

改动范围与启用条件

b11877的发布说明把本次改动限定在Vulkan后端的conv3d上。更大tile size并非对所有Vulkan路径生效:它只在coopmat2路径下使用,并且只应用到较新的驱动版本。

  • 对象:llama.cpp的Vulkan后端conv3d卷积实现。
  • 限制一:更大tile size仅在coopmat2路径启用。
  • 限制二:仅对较新的驱动版本应用该配置。
  • 测试:提交中新增了若干代表性后端测试,发布说明未附具体测试结果。

发布产物

b11877按平台提供预编译包,覆盖macOS(Apple Silicon arm64、Intel x64)、iOS XCFramework、Linux(Ubuntu x64/arm64/s390x的CPU包,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16等变体)、Android arm64、Windows(CPU、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0等)以及骁龙平台的CPU/Adreno GPU/Hexagon NPU组合包。

  • macOS Apple Silicon的KleidiAI启用版本在发布页标注为DISABLED,并链接到相应PR。
  • openEuler相关构建在发布页同样标注为DISABLED。
  • 发布页另提供UI包。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观