llama.cpp b11877为Vulkan后端conv3d增加更大tile size,仅限coopmat2
llama.cpp发布b11877构建,其中Vulkan后端为conv3d新增更大tile size,该改动仅适用于coopmat2,且只在新版驱动上启用;同时补充了若干代表性后端测试。
AI解读:这次改动影响的是llama.cpp的Vulkan后端中conv3d算子的tile size选择。提交说明称更大tile size实际只在coopmat2路径使用,因为该路径不需要用共享内存存放输出。
使用条件有两层:一是后端路径需走coopmat2;二是按提交说明,大tile size只对较新的驱动版本生效,旧驱动不会启用这一配置。
提交说明提到新增了若干代表性后端测试,但发布页未给出性能数据或测试结论,因此无法据此判断提速幅度或对哪些显卡收益最大。
llama.cpp发布b11877版本,其中一项提交为Vulkan后端增加conv3d的更大tile size,提交说明标注该配置仅用于coopmat2。
提交说明称,选用更大tile size的实际原因是coopmat2路径无需共享内存存放输出——若用共享内存会超过 64KB。提交还写明,大tile size只对较新的驱动版本应用。
该提交同时增加了若干代表性后端测试。提交说明称,这一改动源自作者参考sd.cpp的Wan VAE后由codex给出的方案。
改动范围与启用条件
b11877的发布说明把本次改动限定在Vulkan后端的conv3d上。更大tile size并非对所有Vulkan路径生效:它只在coopmat2路径下使用,并且只应用到较新的驱动版本。
- 对象:llama.cpp的Vulkan后端conv3d卷积实现。
- 限制一:更大tile size仅在coopmat2路径启用。
- 限制二:仅对较新的驱动版本应用该配置。
- 测试:提交中新增了若干代表性后端测试,发布说明未附具体测试结果。
发布产物
b11877按平台提供预编译包,覆盖macOS(Apple Silicon arm64、Intel x64)、iOS XCFramework、Linux(Ubuntu x64/arm64/s390x的CPU包,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16等变体)、Android arm64、Windows(CPU、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0等)以及骁龙平台的CPU/Adreno GPU/Hexagon NPU组合包。
- macOS Apple Silicon的KleidiAI启用版本在发布页标注为DISABLED,并链接到相应PR。
- openEuler相关构建在发布页同样标注为DISABLED。
- 发布页另提供UI包。