开源llama.cpp Releases·原文 2026年11月14日

llama.cpp发布b12370:调整HIP下的GCN MMQ配置

llama.cpp发布b12370版本,唯一列出的改动是ggml-cuda后端在HIP下调节GCN的MMQ配置(#30021),并同步提供各平台预编译包下载。

AI解读:这次发布对应提交“ggml-cuda: hip: tune GCN MMQ configs (#30021)”,改动范围是HIP后端下GCN架构的MMQ配置调优。

发布页同时列出macOS、iOS、Linux、Android、Windows等多平台预编译包,涵盖CPU、CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL以及部分高通骁龙(Adreno GPU、Hexagon NPU)构建。

发布页显示macOS上KleidiAI启用的arm64构建与openEuler相关包被标记为DISABLED。

来源只给出标题层面的改动说明,未提供性能对比数据;这次调优对具体AMD显卡的实际影响无法从发布页判断。

文中“tune”的表述来自发布说明,属于项目方对改动的描述,不是第三方实测结论。

llama.cpp发布b12370版本。发布说明中列出的改动只有一条:ggml-cuda后端在HIP下调整GCN的MMQ配置(ggml-cuda: hip: tune GCN MMQ configs,#30021)。

本次改动与适用范围

据发布说明,本次提交针对ggml-cuda后端在HIP环境下运行的GCN架构,对MMQ相关配置做了调整。发布页没有展开说明调整了哪些参数、覆盖哪些具体型号,也没有给出调优前后的对比数据。

因此,这项改动直接相关的是通过HIP后端在AMD GPU上运行llama.cpp的构建;对纯CPU或其他后端的使用者,发布说明未提及变动。

  • 改动项:ggml-cuda后端在HIP下调节GCN MMQ配置
  • 提交编号:#30021
  • 发布页未提供性能数据或受影响的具体显卡型号

同步提供的预编译包

b12370的发布页按平台列出预编译产物,包括macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu的x64/arm64/s390x以及Vulkan、CUDA 12.8、CUDA 13.5、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16构建,Android arm64,Windows的CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm构建,以及Linux/Android上面向骁龙的CPU、Adreno GPU、Hexagon NPU包。

发布页还把两项标为DISABLED:启用KleidiAI的macOS Apple Silicon arm64构建,以及openEuler系列构建(页面引用PR #23705)。

  • CUDA构建同时提供 12.4/12.8 与 13.5 版本,并附带对应运行库
  • ROCm 10.0提供Ubuntu x64与Windows x64包
  • 骁龙平台附带单独的安装指南链接
  • macOS KleidiAI arm64与openEuler构建在页面上标记为DISABLED

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观