开源llama.cpp Releases·原文 2026年10月10日

llama.cpp发布b11532:ModernBERT编码器改用精确GELU

该版本的主要代码变更集中在GELU激活函数处理上:ModernBERT编码器改用精确GELU,tanh GELU别名保留在ggml_geglu上,gelu_python映射到ggml_geglu_erf;发布说明还列出各平台预编译包的下载地址。

AI解读:llama.cpp发布b11532版本,代码变更来自合并请求 #30108,标题为“model : use exact GELU for ModernBERT encoders”。

变更包含三项:ModernBERT编码器使用精确GELU;保留tanh GELU别名于ggml_geglu;将gelu_python映射到ggml_geglu_erf。

发布说明标注了Assisted-by: Codex和Assisted-by: Claude Opus 5.5,说明这些改动有AI工具参与协助。

来源未给出该变更对模型精度、速度或内存占用的量化结果,因此无法判断实际效果差异。

macOS Apple Silicon上的KleidiAI加速构建标注为DISABLED,并链接到PR #23780;openEuler相关构建同样标注为DISABLED,链接到PR #23705。

llama.cpp发布b11532版本,主要代码改动为ModernBERT编码器改用精确GELU,该改动来自合并请求 #30108。

同一请求还调整了GELU相关映射:tanh GELU别名保留在ggml_geglu上,gelu_python映射到ggml_geglu_erf。

发布说明在改动条目下标注Assisted-by: Codex与Assisted-by: Claude Opus 5.5。

b11532的代码改动

根据发布说明,合并请求 #30108 的内容为“model : use exact GELU for ModernBERT encoders”。具体条目包括:ModernBERT编码器使用精确GELU;tanh GELU别名保留在ggml_geglu上;gelu_python映射到ggml_geglu_erf。

这些条目在发布说明中被标记为有AI工具协助完成。

  • ModernBERT编码器改用精确GELU
  • tanh GELU别名保留在ggml_geglu上
  • gelu_python映射到ggml_geglu_erf

预编译包与平台状态

发布页按平台列出可下载的预编译包,覆盖macOS、iOS、Linux、Android和Windows,并包含CPU、Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL、OpenCL Adreno以及Snapdragon的CPU/Adreno GPU/Hexagon NPU等构建。

其中macOS Apple Silicon(arm64)启用KleidiAI的构建标注为DISABLED,并链接到PR #23780;openEuler系列构建同样标注为DISABLED,链接到PR #23705。

  • macOS:arm64、x64与iOS XCFramework;KleidiAI启用版标注DISABLED
  • Linux:Ubuntu x64/arm64/s390x CPU,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16等构建
  • Android:arm64 CPU与Snapdragon(CPU、Adreno GPU、Hexagon NPU)
  • Windows:x64/arm64 CPU,以及CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0、OpenCL Adreno等构建
  • openEuler x86/aarch64的 310p与 910b(ACL Graph)构建标注DISABLED

读者需要弄清的一点

这次改动的适用范围是ModernBERT编码器的GELU计算路径,以及ggml侧GELU别名的映射方式。发布说明没有提供精度、速度或内存的对比数据,所以“精确GELU”带来的实际影响目前只能以合并请求描述为准,不能推断为性能或效果改善。

对使用预编译包的用户,发布页同时列出了各平台产物;其中KleidiAI版macOS arm64构建和openEuler构建处于禁用状态,需要按对应PR链接确认后续状态。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观