开源llama.cpp Releases·原文 2026年10月30日

llama.cpp b12004发布:提示词出现结束标签时终止推理预算强制

llama.cpp发布b12004版本,变更说明仅列出一项:common模块在提示词中出现结束标签时,停止推理预算强制(#31374)。该版本同步提供macOS、iOS、Linux、Android、Windows等多平台预编译包。

AI解读:按该说明,改动的行为边界是:当提示词中出现结束标签时,结束对推理预算的强制;说明未给出示例、默认值或适用范围以外的细节。

该版本同时提供macOS(Apple Silicon、Intel)、iOS XCFramework、Linux(含CUDA 12/13、ROCm、Vulkan、SYCL、OpenVINO、s390x等)、Android、Windows及UI的预编译产物下载。

发布说明中macOS Apple Silicon的KleidiAI构建与openEuler构建标注为DISABLED,即这两类构建在本次发布中未启用。

llama.cpp发布b12004版本。GitHub发布页列出的变更条目为“common : end reasoning budget forcing on an end tag from the prompt”(#31374),即当提示词中出现结束标签时终止对推理预算的强制。

b12004的改动内容

发布说明只列出上述一条变更,属于common模块。说明文字没有交代结束标签的具体形式、默认开启状态,也没有给出受影响模型或前后行为对比。

该条目以PR编号 #31374 标注,除此之外发布页未提供更多实现说明。

同版本提供的构建产物

b12004同步发布多平台预编译包,覆盖macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework、Ubuntu(x64/arm64/s390x,含CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16等变体)、Linux arm64骁龙(CPU、Adreno GPU、Hexagon NPU)、Android arm64、Windows(CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm等)以及UI包。

  • macOS Apple Silicon的KleidiAI构建在发布页标注为DISABLED(链接指向PR #23780)。
  • openEuler的x86与aarch64(310p、910b ACL Graph)构建同样标注为DISABLED(链接指向PR #23705)。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观