开源llama.cpp Releases·原文 2026年10月10日

llama.cpp发布b11531:重构chat API,多平台预编译包同步更新

llama.cpp发布b11531版本,本次更新为chat模块的API重构(PR #30210),同时提供macOS、Linux、Windows、Android等平台的预编译二进制文件,其中部分后端被标记为DISABLED。

AI解读:该版本同步更新了多平台预编译包,覆盖macOS(Apple Silicon、Intel)、iOS、Linux(Ubuntu x64/arm64/s390x)、Windows(x64/arm64)、Android(arm64)以及UI包。

Linux和Windows构建覆盖多种计算后端,包括CPU、Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL FP32/FP16以及面向骁龙的CPU/Adreno GPU/Hexagon NPU。

来源标注两项处于DISABLED状态:macOS Apple Silicon的KleidiAI加速版本,以及openEuler构建。

来源未提供此次API重构的具体兼容性影响、性能数据或迁移说明。

llama.cpp发布b11531版本,变更日志中的主要条目为chat模块的API重构,对应PR #30210。

该版本按惯例同时发布多平台预编译二进制与库文件,覆盖桌面、移动端和部分加速后端。

chat API重构

变更条目写明“chat : refactor API (#30210)”,即对chat模块的API进行重构。

来源未说明这一重构涉及哪些函数或接口、是否破坏向后兼容,也未给出性能或行为变化的说明。

预编译构建覆盖范围

发布的构件按平台分组:macOS/iOS、Linux、Android、Windows以及UI资源包。

Linux提供Ubuntu x64、arm64、s390x的CPU构建,并包含Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL FP32与SYCL FP16等后端变体,另有面向骁龙的CPU、Adreno GPU、Hexagon NPU构建及安装指南。

Windows提供x64与arm64的CPU构建,以及arm64的OpenCL Adreno、CUDA 12、CUDA 13、Vulkan、OpenVINO、SYCL、ROCm 10.0等变体。

Android提供arm64的CPU构建,以及骁龙平台的CPU、Adreno GPU、Hexagon NPU构建。

CUDA相关变体附带独立的运行时库压缩包(如CUDA 12.4、12.8、13.4 DLL与库文件)。

标记为DISABLED的构建

来源将macOS Apple Silicon的KleidiAI加速版本标记为DISABLED,并链接到PR #23780。

openEuler一组的构建整体标记为DISABLED,链接到PR #23705;列出的目标包括x86与aarch64的 310p和 910b(ACL Graph)。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观