llama.cpp b12242发布:同时设置response_format与工具时不再使用lazy grammar
llama.cpp发布b12242版本,更新说明中唯一的改动条目为:chat功能在response_format与tools同时启用时不再使用lazy grammar(#31956)。该版本同时提供macOS、Linux、Windows、Android等多平台预编译包。
AI解读:来源未解释该改动的具体触发场景、影响范围或效果数据,仅给出这一条变更描述。
该版本按平台提供预编译产物,覆盖macOS(Apple Silicon arm64、Intel x64)、iOS XCFramework、Linux、Android与Windows,并区分CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL等后端。
更新说明中标注为DISABLED的条目包括:启用KleidiAI的macOS Apple Silicon构建,以及openEuler x86 310p、910b(ACL Graph)与aarch64对应构建。
从改动描述看,受影响的只是以chat方式调用、并同时使用response_format与工具的那部分使用路径;其他推理场景是否受影响,来源没有说明。
llama.cpp发布b12242版本。更新说明中唯一的改动条目为:chat在设置了response_format且涉及工具(tools)时,不再使用lazy grammar(#31956)。
本次改动涉及的范围
发布说明只给出这一条改动描述:当response_format被设置、并与工具一起使用时,chat路径不使用lazy grammar。说明未进一步交代此前行为的具体问题、修复后的表现或测试结果。
- 改动条目:chat : don't use lazy grammar when response_format is set with tools(#31956)
- 适用条件:response_format已设置,且同时涉及tools
- 来源未说明该改动的效果数据或受影响用户规模
同版本提供的构建产物
b12242按平台发布预编译包。macOS提供Apple Silicon arm64与Intel x64版本;Linux覆盖Ubuntu x64/arm64、s390x(含zDNN)、Vulkan、CUDA 12.8与CUDA 13.5、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16,以及Snapdragon的CPU、Adreno GPU、Hexagon NPU构建;Android提供arm64 CPU与Snapdragon版本;Windows覆盖x64/arm64 CPU、OpenCL Adreno、CUDA 12.4/13.5、Vulkan、OpenVINO、SYCL与ROCm 10.0。
- 被标注DISABLED的条目:macOS Apple Silicon(arm64,启用KleidiAI)、openEuler x86 310p、openEuler x86 910b(ACL Graph)、openEuler aarch64 310p、openEuler aarch64 910b(ACL Graph)
- 另附UI包与各CUDA运行时库包