llama.cpp发布b11486:改进Hexagon后端GELU精度
llama.cpp版本b11486的主要变更是hexagon后端改进GELU精度(#30104),其余内容为各平台预编译二进制下载清单。
AI解读:来源为GitHub Releases自动发布页,未给出精度改进的具体数值、测试方法或前后对比数据,因此无法判断误差降低了多少、对推理结果的实际影响范围。
该改动位于hexagon后端,与Snapdragon平台的Hexagon NPU相关;发布页为Linux arm64和Android arm64提供了标注“Snapdragon: CPU, Adreno GPU, Hexagon NPU”的构建包。
除这条源码级变更外,发布页其余内容是macOS、iOS、Linux、Android、Windows、openEuler和UI各平台的预编译包下载链接,属于例行构建产物清单,不构成本次新增功能。
发布说明标注Assisted-by: OpenCode,但未说明该辅助的具体形式;同时macOS Apple Silicon的KleidiAI构建和openEuler构建均标注为DISABLED状态。
llama.cpp发布b11486版本,发布说明中列出的唯一变更是“hexagon: improved GELU accuracy”(#30104),即改进Hexagon后端上GELU的精度。该说明由仓库自动发布流程生成,正文其余部分为各平台预编译产物的下载链接。
b11486的唯一变更与范围
发布页把本次变更写成一条标题:hexagon: improved GELU accuracy(#30104)。据此可以确认改动对象是Hexagon后端中GELU的实现,目标是提升精度。发布页没有给出改动前后的误差数值、评测方式或受影响的模型与量化类型,因此无法从这一来源判断精度提升幅度。
发布页标注Assisted-by: OpenCode,未进一步说明该辅助用于代码、说明还是其他环节。
- 变更条目:hexagon: improved GELU accuracy(#30104)
- 未提供精度对比数据、测试条件或影响范围
- Hexagon后端与Snapdragon平台的Hexagon NPU对应
随版本提供的构建产物
b11486的发布页列出了面向多个平台的预编译包,包括macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework、Ubuntu(CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16、s390x)、Linux arm64 Snapdragon、Android arm64(含Snapdragon版本)、Windows(CPU、CUDA 12.4/13.4、Vulkan、OpenCL Adreno、OpenVINO、SYCL、ROCm 10.0)以及UI包。
其中Linux arm64与Android arm64的Snapdragon构建明确标注包含CPU、Adreno GPU和Hexagon NPU三种路径,发布页另附对应的setup guide。本次改进的hexagon后端正属于这类构建。
部分条目处于停用状态:macOS Apple Silicon的KleidiAI构建标注DISABLED(并指向PR #23780),openEuler各构建也标注DISABLED(指向PR #23705)。
- Snapdragon构建覆盖Linux arm64与Android arm64,含CPU、Adreno GPU、Hexagon NPU
- macOS Apple Silicon KleidiAI构建:DISABLED(PR #23780)
- openEuler构建(x86/aarch64,310p/910b):DISABLED(PR #23705)