llama.cpp发布b11531:重构chat API,多平台预编译包同步更新
llama.cpp发布b11531版本,本次更新为chat模块的API重构(PR #30210),同时提供macOS、Linux、Windows、Android等平台的预编译二进制文件,其中部分后端被标记为DISABLED。
AI解读:该版本同步更新了多平台预编译包,覆盖macOS(Apple Silicon、Intel)、iOS、Linux(Ubuntu x64/arm64/s390x)、Windows(x64/arm64)、Android(arm64)以及UI包。
Linux和Windows构建覆盖多种计算后端,包括CPU、Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL FP32/FP16以及面向骁龙的CPU/Adreno GPU/Hexagon NPU。
来源标注两项处于DISABLED状态:macOS Apple Silicon的KleidiAI加速版本,以及openEuler构建。
来源未提供此次API重构的具体兼容性影响、性能数据或迁移说明。
llama.cpp发布b11531版本,变更日志中的主要条目为chat模块的API重构,对应PR #30210。
该版本按惯例同时发布多平台预编译二进制与库文件,覆盖桌面、移动端和部分加速后端。
chat API重构
变更条目写明“chat : refactor API (#30210)”,即对chat模块的API进行重构。
来源未说明这一重构涉及哪些函数或接口、是否破坏向后兼容,也未给出性能或行为变化的说明。
预编译构建覆盖范围
发布的构件按平台分组:macOS/iOS、Linux、Android、Windows以及UI资源包。
Linux提供Ubuntu x64、arm64、s390x的CPU构建,并包含Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL FP32与SYCL FP16等后端变体,另有面向骁龙的CPU、Adreno GPU、Hexagon NPU构建及安装指南。
Windows提供x64与arm64的CPU构建,以及arm64的OpenCL Adreno、CUDA 12、CUDA 13、Vulkan、OpenVINO、SYCL、ROCm 10.0等变体。
Android提供arm64的CPU构建,以及骁龙平台的CPU、Adreno GPU、Hexagon NPU构建。
CUDA相关变体附带独立的运行时库压缩包(如CUDA 12.4、12.8、13.4 DLL与库文件)。
标记为DISABLED的构建
来源将macOS Apple Silicon的KleidiAI加速版本标记为DISABLED,并链接到PR #23780。
openEuler一组的构建整体标记为DISABLED,链接到PR #23705;列出的目标包括x86与aarch64的 310p和 910b(ACL Graph)。