llama.cpp发布b11854:Vulkan后端支持ggml src1精度选择
该版本合并PR #30656,为Vulkan后端加入累加器精度选择,并针对fp32溢出加入缩放处理,同时覆盖copy-to-fp16激活值的溢出情况。
AI解读:提交还提到新增ggml精度获取辅助函数并在Vulkan后端使用,以及为mul_mat增加检查、将相关命名改为acc_prec。
发布页提供macOS、iOS、Linux、Windows、Android等多平台预编译包,含Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL等后端版本;macOS KleidiAI版与openEuler构建标注为DISABLED。
llama.cpp发布构建版本b11854(发布方为ggml-org仓库的github-actions[bot] 自动发布),该版本的主要提交为Vulkan后端的ggml src1精度支持(PR #30656)。
提交说明显示,改动包括更新累加器精度选择、通过缩放处理fp32溢出、处理copy-to-fp16激活值溢出、补充缺失分支、简化代码并新增测试;此外还处理了fp32 src0,并在禁用时不执行缩放。
Vulkan后端精度改动
提交信息把该PR概括为“vulkan: ggml src1 precision support”,并列出多项细分改动:更新累加器精度选择;通过缩放处理fp32溢出;处理copy-to-fp16激活值中的溢出;补充缺失的情况;简化代码;新增测试。
提交中还提到新增ggml精度获取辅助函数并在Vulkan后端使用、为mul_mat增加检查、修正不一致之处,以及将命名改为acc_prec。提交说明称“remove fp16 scaling”并“don't scale if disabled”。
- 主要变更:Vulkan后端支持ggml src1精度。
- 溢出处理:对fp32溢出与copy-to-fp16激活值溢出采用缩放方式。
- 测试:提交说明称新增了测试并对测试缩放做了调整。
- 命名:相关标识改为acc_prec。
发布产物与平台范围
b11854发布页列出多平台预编译包:macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework;Linux下的Ubuntu x64/arm64/s390x CPU,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16版本;另有Snapdragon的Linux arm64包(CPU、Adreno GPU、Hexagon NPU)。
Windows侧提供x64/arm64 CPU、OpenCL Adreno arm64、CUDA 12.4与CUDA 13.4(x64、arm64)、Vulkan、OpenVINO、SYCL、ROCm 10.0等版本;Android提供arm64 CPU与Snapdragon版;另附UI包。
- macOS Apple Silicon的KleidiAI启用版标注为DISABLED。
- openEuler构建(x86/aarch64的 310p与 910b ACL Graph)整体标注为DISABLED。
- 发布页同时提供各CUDA版本对应的运行库压缩包与Snapdragon安装指南链接。