开源llama.cpp Releases·原文 2026年10月14日

llama.cpp发布b11607:聊天输出由字符串改为parts结构

llama.cpp在GitHub发布b11607版本,变更摘要为“chat: replace output string with parts (#30389)”,并同步更新各平台预编译产物。

AI解读:来源未说明该改动的具体影响范围、兼容性处理方式,也未提供版本号之外的版本命名信息或发布时间,因此无法判断对现有调用方是否构成破坏性变更。

b11607同步发布macOS、iOS、Linux、Android、Windows及openEuler的预编译产物;其中macOS Apple Silicon的KleidiAI版本与openEuler构建在来源中标记为DISABLED。

Linux构建覆盖CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等后端,另有面向Snapdragon的arm64包,集成CPU、Adreno GPU与Hexagon NPU。

来源未给出性能数据、测试结果或用户反馈,也未说明这些构建是否经过额外验证;上述平台列表仅代表发布页提供下载的产物。

llama.cpp发布b11607版本。来源为GitHub上的llama.cpp Releases页面,变更摘要写着“chat: replace output string with parts (#30389)”,即把聊天输出从字符串替换为parts结构,提交信息中还带有“reserve first”。

同一个发布页列出了b11607各平台的预编译产物链接。来源没有给出发布时间、变更详情或兼容性说明。

本次改动只写明了“输出改为parts”

来源中可核对的事实是版本号b11607,以及变更说明“chat: replace output string with parts (#30389)”。来源没有展开parts的数据结构、字段定义,也没有说明调用方需要如何适配。

提交信息中的“reserve first”没有在来源中进一步解释。来源没有提供相关PR的正文或代码差异,因此无法确定它是指预留首个元素、首个part,还是其他含义。

  • 变更说明:chat: replace output string with parts (#30389)
  • 提交信息附注:reserve first
  • 来源未说明是否属于破坏性变更或是否保留向后兼容

同步发布的各平台预编译产物

发布页给出了覆盖macOS、iOS、Linux、Android、Windows与openEuler的二进制包。Linux端包括Ubuntu x64/arm64/s390x的CPU版本,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等后端。

面向Snapdragon的Linux arm64与Android arm64包在来源中标注为集成CPU、Adreno GPU和Hexagon NPU,并附有对应设置指南链接。Windows端提供CPU、OpenCL Adreno、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO 2026.4.1、SYCL与ROCm 10.0等构建。

  • macOS/iOS:Apple Silicon arm64、Intel x64、iOS XCFramework;其中Apple Silicon的KleidiAI版本标记为DISABLED
  • Linux:Ubuntu x64/arm64 CPU、s390x CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16,以及Snapdragon专用包
  • Android:arm64 CPU与Snapdragon专用包
  • Windows:CPU x64/arm64、OpenCL Adreno arm64、CUDA 12.4/13.4、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0
  • openEuler:x86与aarch64的 310p、910b(ACL Graph)构建在来源中标记为DISABLED
  • 另有独立的UI包

信息来源

llama.cpp Releases原始来源