开源llama.cpp Releases·原文 2026年10月9日

llama.cpp b11527发布:WebGPU后端对 1D调度算子改用 2D workgroup

该版本由发布机器人github-actions[bot] 在GitHub Releases页面公布,改动说明为移除 1D workgroups dispatching,并将所有使用 1D调度的算子(例如rms_norm)改为 2D workgroup dispatch,对应PR #30219。

AI解读:b11527是llama.cpp的一个新构建版本,发布页由github-actions[bot] 生成。

该版本列出的代码改动集中在WebGPU后端:对所有原本使用 1D调度的算子改用 2D workgroup dispatch,并包含格式调整,对应PR #30219。

发布说明给出的受影响算子示例是rms_norm,但未提供性能数据或兼容性测试结果,因此改动效果无法从该来源判断。

llama.cpp发布b11527版本,发布页列出的主要改动为WebGPU后端将使用 1D workgroup dispatch的算子改为 2D dispatch。

WebGPU调度改动

发布说明写明:移除 1D workgroups dispatching,对所有使用 1D调度的算子改用 2D workgroup dispatch,并做了formatting,对应PR #30219。说明中给出的算子示例是rms_norm。

  • 改动范围:WebGPU后端中原本使用 1D workgroup dispatch的算子。
  • 具体动作:移除 1D workgroups dispatching,改用 2D workgroup dispatch。
  • 发布说明未给出性能、正确性或兼容性方面的验证结果。

构建产物

b11527同时提供多平台预编译包,发布页按macOS/iOS、Linux、Android、Windows、openEuler和UI分类列出下载链接。macOS提供Apple Silicon(arm64)与Intel(x64)包以及iOS XCFramework;Linux覆盖Ubuntu x64/arm64/s390x的CPU包,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL(FP32/FP16)等后端,另有Linux arm64骁龙包。Windows覆盖x64/arm64的CPU、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0以及arm64 OpenCL Adreno包;Android提供arm64 CPU与骁龙包。

  • macOS/iOS:macOS Apple Silicon (arm64)、macOS Intel (x64)、iOS XCFramework;KleidiAI版本的macOS Apple Silicon标注为DISABLED。
  • Linux:Ubuntu x64/arm64/s390x CPU,以及Vulkan、CUDA 12.8、CUDA 13.4(含对应CUDA库)、ROCm 10.0、OpenVINO、SYCL FP32/FP16;另有Linux arm64骁龙(CPU、Adreno GPU、Hexagon NPU)。
  • Windows:x64/arm64 CPU,CUDA 12.4、CUDA 13.4(含对应DLL)、Vulkan、OpenVINO、SYCL、ROCm 10.0,以及arm64 OpenCL Adreno。
  • Android:arm64 CPU与arm64骁龙(CPU、Adreno GPU、Hexagon NPU)。
  • openEuler:x86 310p、x86 910b(ACL Graph)、aarch64 310p、aarch64 910b(ACL Graph)均标注DISABLED。
  • UI:提供单独的UI打包下载。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观