开源llama.cpp Releases·原文 2026年9月20日

llama.cpp b11063发布:PEG解析器处理AST中的非法UTF-8序列

该版本修改common/peg,遇到非法UTF-8时按Unicode建议返回最大子部分,并移除strict参数;同时照例提供多平台预编译包。

AI解读:处理方式上,提交说明写的是按Unicode建议返回“最大子部分”(maximal subpart),而不是遇到坏字节就整体失败;同时移除了strict参数。也就是说,不合法的UTF-8输入不再必然导致解析中断,而是尽量保留可解释的部分。

这条变更直接影响的是用llama.cpp做语法约束生成(如GBNF/peg语法)的开发者和下游工具:当模型输出或用户输入混入坏字节时,解析行为会发生变化,依赖strict开关的代码需要确认是否仍需要调整。该版本没有给出效果数据,实际影响范围应以提交 #29161 的说明为准。

随版本一同发布的还有覆盖macOS、iOS、Linux、Android、Windows的预编译包,包括ARM64、x64、s390x,以及CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL等后端;openEuler与启用KleidiAI的macOS ARM64构建标记为DISABLED。这些二进制包的发布时间与版本号b11063对应,来源为llama.cpp Releases页面。

llama.cpp发布构建版本b11063。该版本列出的代码变更是common/peg处理AST中的非法UTF-8序列(提交 #29161)。

提交说明称,解析时按Unicode建议返回“最大子部分”(maximal subpart),并移除了strict参数。这一改动针对的是抽象语法树里出现非法UTF-8字节时的处理方式。

同一发布页照例附带了各平台预编译二进制包,涵盖macOS、iOS、Linux、Android和Windows。

common/peg的改动内容与提交说明

发布说明中列出的唯一代码变更是common/peg:处理AST中的非法UTF-8序列(#29161)。提交说明的要点包括:按Unicode建议返回最大子部分,以及移除strict参数。

来源为llama.cpp Releases页面上的b11063发布说明,内容以提交摘要为主,未提供测试或性能数据。

  • 变更模块:common/peg
  • 变更点:处理AST中的非法UTF-8序列
  • 处理策略:按Unicode建议返回maximal subpart
  • 其他改动:移除strict参数

随版本提供的预编译平台包

发布页列出了b11063对应的各平台下载项。macOS/iOS部分包括macOS Apple Silicon (arm64)、macOS Intel (x64) 和iOS XCFramework;其中macOS Apple Silicon的KleidiAI启用版标记为DISABLED。

Linux部分包括Ubuntu x64、arm64、s390x的CPU构建,以及Vulkan x64/arm64、CUDA 12(12.8)、CUDA 13(13.3)、ROCm 10.0、OpenVINO 2026.4、SYCL FP32、SYCL FP16构建,并单独提供CUDA 12.8与CUDA 13.3的运行库包。Android提供arm64 CPU包。

Windows部分包括x64与arm64 CPU包、arm64 OpenCL Adreno、CUDA 12(12.4)、CUDA 13(13.4)的x64与arm64版及对应DLL、Vulkan x64、OpenVINO 2026.4 x64与SYCL x64、ROCm 10.0 x64。openEuler的x86(310p)、x86(910b, ACL Graph)、aarch64(310p)、aarch64(910b, ACL Graph)均标记为DISABLED。发布页还单独提供UI压缩包。

  • macOS/iOS:macOS arm64、macOS x64、iOS XCFramework;KleidiAI版DISABLED
  • Linux:Ubuntu x64/arm64/s390x CPU;Vulkan、CUDA 12.8、CUDA 13.3、ROCm 10.0、OpenVINO 2026.4、SYCL FP32/FP16;含CUDA运行库
  • Android:arm64 CPU
  • Windows:x64/arm64 CPU、OpenCL Adreno arm64、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0
  • openEuler全部条目DISABLED;另有UI包

信息来源

llama.cpp Releases原始来源