llama.cpp b12379发布:降低Jinja模板渲染开销
llama.cpp发布构建b12379,合并PR #32023,主要改动是降低Jinja模板渲染开销,并修复了渲染相关缺陷。
AI解读:这次改动针对的是llama.cpp中Jinja模板的渲染路径。对使用模型自带聊天模板、依赖Jinja语法生成提示词的用户,模板渲染是每次请求前都会执行的步骤。发布说明没有给出渲染速度提升的量化数据,因此不能推断具体节省比例。
llama.cpp发布构建b12379,本次合并的改动是PR #32023「jinja : reduce template rendering overhead」,即降低Jinja模板渲染开销。
根据发布页记录,提交内容包含减少值分配与查找开销、按渲染评审意见修改、测试多段字符串并简化查找,以及修复「undefined hint」和divisibleby 0两个问题,并做了清理。提交记录标注Assisted-by: GPT-6 Astra,Co-authored-by: Xuan Son Nguyen。
发布页同时列出了各平台构建产物,涵盖macOS Apple Silicon与Intel、iOS XCFramework,Linux下的Ubuntu x64/arm64/s390x(含Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL)、Snapdragon arm64、Android arm64、Windows x64/arm64(含CUDA、Vulkan、OpenVINO、SYCL、ROCm)以及UI包。发布页显示,macOS Apple Silicon的KleidiAI构建与openEuler构建处于DISABLED状态。