开源llama.cpp Releases·原文 2026年10月12日

llama.cpp b11559发布:OpenCL后端为Gemma-4启用E4B/E2B GPU解码

该版本合并PR #30266,在OpenCL后端为Gemma-4启用E4B与E2B的GPU解码,并优化DK64 GQA8、DK128 GQA4解码;标题所述“允许dk512 for gemma-4”与发布说明中的具体条目存在出入。

AI解读:llama.cpp发布b11559版本,合并的PR #30266 标题为“opencl: improve fa, allow dk512 for gemma-4, improve dk64”。该改动由GitHub账号Hongqiang Wang共同署名提交。

PR列出的四项具体改动为:在OpenCL后端启用Gemma-4 E4B的GPU解码、把Gemma-4的GPU解码扩展到E2B、优化DK64 GQA8解码、优化DK128 GQA4解码。标题提到的“允许dk512 for gemma-4”未在正文条目中单独列出,只出现在PR标题。

发布页同时提供macOS/iOS、Linux、Android、Windows以及UI的预编译包下载链接。OpenCL相关构建在Windows上对应arm64(OpenCL Adreno)包,Snapdragon相关Linux/Android包包含Adreno GPU支持。

发布说明没有给出性能提升数字、延迟对比或适用范围的条件。四项改动的效果描述由PR署名者给出,页面本身未提供独立验证数据。

两项外部或平台构建被标记为DISABLED:macOS Apple Silicon的KleidiAI启用版本(PR #23780)以及openEuler相关构建(PR #23705)。

此条为版本发布简讯,新增信息集中在OpenCL后端的Gemma-4解码支持与DK64/DK128解码优化,不涉及模型权重或其他后端变更。

llama.cpp发布b11559版本,合并PR #30266,在OpenCL后端为Gemma-4启用E4B与E2B的GPU解码,并优化DK64 GQA8与DK128 GQA4解码。

PR #30266 的具体改动

PR标题为“opencl: improve fa, allow dk512 for gemma-4, improve dk64”,署名为Hongqiang Wang。提交说明列出四项改动:启用Gemma-4 E4B的GPU解码、将Gemma-4 GPU解码扩展到E2B、优化DK64 GQA8解码、优化DK128 GQA4解码。

标题中的“allow dk512 for gemma-4”没有在正文条目中单独展开,仅出现在PR标题里。

  • opencl: enable Gemma-4 E4B GPU decode
  • opencl: extend Gemma-4 GPU decode to E2B
  • opencl: optimize DK64 GQA8 decode
  • opencl: optimize DK128 GQA4 decode

发布产物与标记为禁用的构建

发布页按平台提供预编译包:macOS/iOS(Apple Silicon arm64、Intel x64、iOS XCFramework)、Linux(Ubuntu x64/arm64/s390x CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16,以及Snapdragon的CPU、Adreno GPU、Hexagon NPU包)、Android(arm64 CPU与Snapdragon包)、Windows(CPU、OpenCL Adreno arm64、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0)以及独立的UI包。

两项构建被标记为DISABLED:macOS Apple Silicon的KleidiAI启用版本(PR #23780)和openEuler相关构建(PR #23705),后者列出x86 310p、x86 910b ACL Graph、aarch64 310p、aarch64 910b ACL Graph四个条目。

  • Windows arm64提供OpenCL Adreno专用包,与本次OpenCL改动相关。
  • Snapdragon的Linux与Android包覆盖Adreno GPU与Hexagon NPU,并附有setup指南链接。
  • macOS Apple Silicon KleidiAI版本与openEuler构建当前处于禁用状态。

可核实范围

发布说明与PR描述没有给出解码速度提升幅度、显存占用变化或对比基准。四项改动的收益表述由PR署名者提供,页面未附独立评测或复现数据。

本次新增信息限于OpenCL后端的Gemma-4 E4B/E2B解码支持以及DK64 GQA8、DK128 GQA4的解码优化,不涉及模型权重、训练或其他后端行为。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观