开源llama.cpp Releases·原文 2026年10月18日

llama.cpp发布b11715:HIP后端用 __builtin_amdgcn_perm解包q1_0

llama.cpp在b11715版本的发布说明中列出一条ggml-cuda改动:HIP后端改用 __builtin_amdgcn_perm处理q1_0解包(PR #29927),同时照例提供各平台预编译包。

AI解读:这次更新对普通用户最直接的变化,是HIP路径下q1_0量化格式的解包实现改用了 __builtin_amdgcn_perm;发布说明没有给出性能数据,因此无法判断提速幅度。

改动位于ggml-cuda的HIP后端,面向使用AMD GPU并通过ROCm/HIP运行llama.cpp的构建;其他后端是否受影响,来源未说明。

llama.cpp发布b11715。发布说明中的改动条目为:ggml-cuda的HIP后端在处理q1_0解包时改用 __builtin_amdgcn_perm,对应PR #29927。

改动范围与附带产物

发布页由github-actions[bot] 发布,主体内容是一组各平台预编译产物链接,包括macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu x64/arm64/s390x的CPU与Vulkan、CUDA 12.8与CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16,以及骁龙平台的CPU/Adreno GPU/Hexagon NPU版本;此外还有Android、Windows和UI包。

  • macOS的KleidiAI版本标注为DISABLED,链接指向PR #23780。
  • openEuler产物同样标注为DISABLED,链接指向PR #23705。
  • 发布说明未列出q1_0解包改动的性能对比或正确性测试结果。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观