开源llama.cpp Releases·原文 2026年9月22日

llama.cpp b11100修复Muse Glimmer工具调用首个解析器错误

该版本合并PR #29242,修正Muse Glimmer在工具调用时的首个解析器错误,新增验证测试并精简模式,同时移除触发模式相关测试。

AI解读:这次修复针对的是“首次解析”环节,意味着工具调用在特定模型上此前可能直接报错或解析失败;提交同时加入了验证测试。

对本地跑模型、依赖工具调用(function calling)的开发者来说,升级到b11100是直接拿到修复的方式;不涉及工具调用场景则影响有限。

发布页仍按平台提供CPU、CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO等预编译包,macOS Apple Silicon的KleidiAI构建仍处于禁用状态。

来源为发布页摘要,具体错误复现条件和影响范围需要查看PR详情,摘要本身没有给出更多细节。

llama.cpp发布b11100构建版本,主要改动为修复Muse Glimmer工具调用的首个解析器错误(PR #29242)。

该PR的说明包括:修复Muse Glimmer tool-call first parser error、添加测试以验证、压缩模式(Condense patterns),以及移除触发模式(trigger patterns)的测试。

发布页同时列出各平台预编译产物,覆盖macOS/iOS、Linux、Android、Windows和UI。

b11100的代码改动

b11100对应一次chat相关修复,提交标题为“chat : Fix Muse Glimmer tool-call first parser error (#29242)”。提交内容分四步:修复Muse Glimmer工具调用的首个解析器错误、添加测试验证、压缩匹配模式、移除针对触发模式的测试。

从提交信息看,改动集中在工具调用的解析路径,而不是模型推理或后端计算本身。

  • PR编号:#29242
  • 涉及模型:Muse Glimmer
  • 改动类型:工具调用解析器错误修复 + 测试调整
  • 标注为chat模块改动

发布产物与平台支持

发布页按平台提供b11100的预编译包。macOS/iOS包含Apple Silicon(arm64)和Intel(x64)二进制及iOS XCFramework;其中macOS Apple Silicon的KleidiAI启用版本标注为DISABLED,指向PR #23780。

Linux侧覆盖Ubuntu x64/arm64/s390x的CPU构建,以及Vulkan、CUDA 12(12.8)、CUDA 13(13.4)、ROCm 10.0、OpenVINO 2026.4、SYCL FP32/FP16构建,另含Snapdragon的CPU、Adreno GPU、Hexagon NPU组合包并附设置指南。

Android提供arm64 CPU与Snapdragon组合包;Windows覆盖x64/arm64 CPU、OpenCL Adreno、CUDA 12.4/13.4、Vulkan、OpenVINO 2026.4、SYCL、ROCm 10.0。openEuler相关构建标注为DISABLED,指向PR #23705。此外还有单独的UI包。

  • macOS Apple Silicon的KleidiAI版本仍禁用
  • CUDA分为 12.8 与 13.4 两条线,均附带对应cudart库
  • openEuler x86/aarch64构建标注DISABLED

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观