开源llama.cpp Releases·原文 2026年11月10日

llama.cpp b12242发布:同时设置response_format与工具时不再使用lazy grammar

llama.cpp发布b12242版本,更新说明中唯一的改动条目为:chat功能在response_format与tools同时启用时不再使用lazy grammar(#31956)。该版本同时提供macOS、Linux、Windows、Android等多平台预编译包。

AI解读:来源未解释该改动的具体触发场景、影响范围或效果数据,仅给出这一条变更描述。

该版本按平台提供预编译产物,覆盖macOS(Apple Silicon arm64、Intel x64)、iOS XCFramework、Linux、Android与Windows,并区分CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL等后端。

更新说明中标注为DISABLED的条目包括:启用KleidiAI的macOS Apple Silicon构建,以及openEuler x86 310p、910b(ACL Graph)与aarch64对应构建。

从改动描述看,受影响的只是以chat方式调用、并同时使用response_format与工具的那部分使用路径;其他推理场景是否受影响,来源没有说明。

llama.cpp发布b12242版本。更新说明中唯一的改动条目为:chat在设置了response_format且涉及工具(tools)时,不再使用lazy grammar(#31956)。

本次改动涉及的范围

发布说明只给出这一条改动描述:当response_format被设置、并与工具一起使用时,chat路径不使用lazy grammar。说明未进一步交代此前行为的具体问题、修复后的表现或测试结果。

  • 改动条目:chat : don't use lazy grammar when response_format is set with tools(#31956)
  • 适用条件:response_format已设置,且同时涉及tools
  • 来源未说明该改动的效果数据或受影响用户规模

同版本提供的构建产物

b12242按平台发布预编译包。macOS提供Apple Silicon arm64与Intel x64版本;Linux覆盖Ubuntu x64/arm64、s390x(含zDNN)、Vulkan、CUDA 12.8与CUDA 13.5、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16,以及Snapdragon的CPU、Adreno GPU、Hexagon NPU构建;Android提供arm64 CPU与Snapdragon版本;Windows覆盖x64/arm64 CPU、OpenCL Adreno、CUDA 12.4/13.5、Vulkan、OpenVINO、SYCL与ROCm 10.0。

  • 被标注DISABLED的条目:macOS Apple Silicon(arm64,启用KleidiAI)、openEuler x86 310p、openEuler x86 910b(ACL Graph)、openEuler aarch64 310p、openEuler aarch64 910b(ACL Graph)
  • 另附UI包与各CUDA运行时库包

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观