开源llama.cpp Releases·原文 2026年11月14日

llama.cpp b12362发布:用左因子提取优化语法匹配

llama.cpp新构建b12362合并PR #29557,以左因子提取优化大型语法的匹配过程,并附带各平台预编译包。

AI解读:该PR的提交记录显示,中途曾引入语法解析AST和限制备选项数量,随后通过回滚提交撤销了这两项改动。

后续改动集中在左因子提取本身:保留字符类边界、防止无限展开、测试空后缀、去重逻辑、共享不可变规则。

该PR移除了性能基准测试,提交信息未给出具体的速度提升数字。

同版本提供macOS、iOS、Linux、Android、Windows等多平台预编译包,其中部分macOS KleidiAI和openEuler构建标记为DISABLED。

llama.cpp发布构建版本b12362,其中合并的PR #29557 以左因子提取(left factoring)优化语法(grammar)匹配。该PR由Piotr Wilkin参与合著,提交信息未给出具体的性能提升数据。

这次改了什么

PR #29557 的提交记录显示,开发者先尝试引入语法解析的AST并限制备选项数量,随后通过回滚提交(84f3b57、393a707)撤销了这两项改动。最终方向是“通过左因子提取优化大型语法匹配”。

  • 保留左因子提取过程中的字符类边界
  • 防止左因子提取时出现无限展开
  • 为左因子提取后的空后缀添加测试
  • 去重左因子提取逻辑并补充注释
  • 共享不可变规则
  • 提交记录显示移除了性能基准测试

适用范围与限制

从提交信息看,改动针对的是语法匹配环节,尤其是提交中所说的“大型语法”。除移除基准测试外,来源没有给出优化前后的耗时对比,因此无法据此判断提速幅度或对具体模型、具体语法文件的影响。同版本发布页面列出了macOS、iOS、Linux、Android、Windows及openEuler的预编译包,其中macOS Apple Silicon的KleidiAI版本和openEuler构建标注为DISABLED。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观