开源llama.cpp Releases·原文 2026年9月27日本站收录 2026年9月28日

llama.cpp b11218发布:Jinja模板引擎新增dict内置支持

llama.cpp发布b11218版本,主要变更是为Jinja模板引擎加入dict内置对象支持并补充测试,同时提供覆盖macOS、Linux、Windows、Android及多种加速后端的预编译包。

AI解读:llama.cpp的b11218版本只做了一件小事:给Jinja模板引擎补上dict内置支持,并加了对应测试。这件事听起来很无聊,但它影响的是模型聊天模板的解析——不少模型的自定义模板里会用到dict这类结构,之前跑不通的模板现在有救。

对普通用户来说,这次更新不改变推理速度,也不提升模型能力,只是模板兼容性上的一个补丁。

发布页同时列出了大量预编译包,覆盖macOS、Linux、Windows、Android和iOS,以及CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL、OpenCL Adreno、Snapdragon的CPU/GPU/NPU等后端。不过macOS上KleidiAI启用版和openEuler构建被标记为DISABLED,相关用户暂时拿不到这两类产物。

llama.cpp发布b11218版本,主要变更是为Jinja模板引擎加入dict内置对象支持(PR #29477),并补充了测试。

该版本按惯例提供多平台预编译包:macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu x64/arm64/s390x的CPU构建,以及CUDA 12.8、CUDA 13.4、Vulkan、ROCm 10.0、OpenVINO 2026.4、SYCL FP32/FP16等加速版本。

Windows侧覆盖x64与arm64的CPU构建、OpenCL Adreno(arm64)、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO 2026.4、SYCL和ROCm 10.0。

Android提供arm64 CPU包,以及针对Snapdragon的CPU、Adreno GPU、Hexagon NPU包,并附有设置指南。

macOS Apple Silicon的KleidiAI启用版与openEuler相关构建在本版本中被标记为DISABLED。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观