llama.cpp b10763默认启用preserve_reasoning,弃用 --chat-template-kwargs设置方式
新版本将推理内容保留开关改为默认开启,并增加日志提示,同时弃用通过 --chat-template-kwargs传递该参数的旧方法。
AI解读:这次更新解决了一个实际使用痛点:此前用户在llama.cpp服务器中控制是否保留模型思考过程(即reasoning内容)时,需要手动指定参数,如果模板不支持该选项,设置可能静默失效,用户难以察觉。b10763将preserve_reasoning改为默认启用(在未显式指定 --reasoning-preserve或 --no-reasoning-preserve时),并在服务器日志中记录实际生效的状态——如果模板支持则提示已默认开启,只在用户显式开启但模板不支持时提示“无效果”。
这样用户能立即知道自己的设置是否真正生效。同时,通过 --chat-template-kwargs来设置该键值的方式已被弃用,未来应使用专门的命令行参数。对本地部署或自托管llama.cpp服务器的开发者来说,更明确的行为和更清晰的日志,但普通用户通常无需立即行动,只有当依赖旧参数传递方式时才需要调整启动脚本。
注意,文档明确提到这些逻辑在common和server组件中生效,未提及模型推理质量的改变。
llama.cpp发布b10763版本,核心变更为:在common和server组件中,preserve_reasoning聊天模板参数默认启用,并记录其实际生效状态。若用户未通过 --reasoning-preserve或 --no-reasoning-preserve显式指定,参数处理后会默认启用;服务器会记录该参数的有效状态,并在模板支持时提示已默认启用,仅在模板不支持但用户显式启用时提示“无效果”。此外,通过 --chat-template-kwargs设置该参数的方式已被弃用。该版本同时提供多平台预编译二进制文件。