llama.cpp b11809为WebGPU后端加入Q2_0支持
该版本发布说明显示,WebGPU后端新增Q2_0行的反量化与矩阵乘法实现(PR #30914);同时照例提供macOS/iOS、Linux、Android、Windows等平台的预编译包。
AI解读:llama.cpp发布b11809版本,唯一列出的改动是WebGPU后端新增Q2_0支持(PR #30914),包含行反量化和矩阵乘法两部分实现。
发布页按平台列出预编译产物,覆盖macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu(CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL)、Android、Windows及Snapdragon相关构建。
KleidiAI加速的macOS Apple Silicon构建与openEuler构建在本次发布中标注为DISABLED。
来源仅说明新增了Q2_0的WebGPU支持,未给出性能数据或与其他后端的对比结果,实际收益需自行测试。
llama.cpp发布b11809版本。发布说明列出的改动为:WebGPU后端加入Q2_0支持(PR #30914),具体包括Q2_0行反量化和Q2_0矩阵乘法两项。
该版本同时提供多平台预编译包,包括macOS、iOS、Linux、Android和Windows。
本次改动:WebGPU上的Q2_0
发布说明将b11809的变更归纳为一条:webgpu增加Q2_0支持(#30914),下分“row dequantization”(行反量化)与“matrix multiplication”(矩阵乘法)两个子项。
来源没有披露该实现的性能提升幅度、内存占用变化或与CPU、CUDA、Vulkan等后端的对比数据。
发布产物与可用平台
发布页给出的构建覆盖macOS Apple Silicon(arm64)与macOS Intel(x64)、iOS XCFramework;Linux侧包含Ubuntu x64/arm64/s390x CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16,以及Snapdragon的CPU、Adreno GPU、Hexagon NPU构建。
Android提供arm64 CPU与Snapdragon组合包;Windows提供x64/arm64 CPU、OpenCL Adreno、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0等构建。UI单独打包。
- macOS Apple Silicon的KleidiAI启用版本标注为DISABLED(指向PR #23780)
- openEuler的x86/aarch64(310p、910b ACL Graph)构建同样标注为DISABLED(指向PR #23705)