开源llama.cpp Releases·原文 2026年10月16日

llama.cpp发布b11690构建:ngram缓存改为按引用读取

该版本唯一列出的代码变更是common模块读取ngram缓存分片时不再复制;发布页同时提供macOS、Linux、Windows、Android与openEuler的多后端预编译包,其中KleidiAI、openEuler与部分平台仍标记为DISABLED。

AI解读:这是版本发布,不是功能声明。除该PR外,发布内容主要是各平台预编译产物与校验链接,没有给出性能、内存占用或正确性的公开测试数据。

llama.cpp发布b11690版本。发布说明中唯一的代码变更条目为:common模块读取ngram缓存分片时改为按引用读取,不再复制(PR #30061)。该条目未附基准测试或效果数据。

ngram缓存读取改动

发布说明把b11690的代码变更记为“common : read ngram cache parts by reference instead of copying (#30061)”,即common模块在读取ngram缓存分片时改为按引用方式读取,而不是复制。改动范围限于common模块内ngram缓存的读取路径。

该版本提供的预编译包

发布页按平台列出可下载的构建产物。macOS/iOS包括Apple Silicon arm64、Intel x64和iOS XCFramework;其中Apple Silicon的KleidiAI启用版本标记为DISABLED。Linux覆盖Ubuntu x64/arm64/s390x CPU、Vulkan、CUDA 12(12.8 库)、CUDA 13(13.4 库,含arm64)、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16,以及Linux arm64的Snapdragon(CPU、Adreno GPU、Hexagon NPU)并附设置指南。

Android提供arm64 CPU和arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)两种包,Snapdragon版本附设置指南。Windows覆盖x64/arm64 CPU、arm64 OpenCL Adreno、CUDA 12.4、CUDA 13.4(含arm64与对应DLL)、Vulkan、OpenVINO 2026.4.1、SYCL和ROCm 10.0。openEuler条目整体标记为DISABLED,其下x86 310p、x86 910b(ACL Graph)、aarch64 310p、aarch64 910b(ACL Graph) 均未提供可用链接。发布页另提供UI包。

  • KleidiAI启用的macOS Apple Silicon构建、openEuler全部条目以及发布页中Website、Attestations两栏均为空或DISABLED。
  • 发布说明没有说明b11690相对上一版本的行为变化,也没有披露适用模型规模、内存收益或速度变化。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观