开源llama.cpp Releases·原文 2026年10月7日

llama.cpp发布b11469:为MUSA后端启用tile lightning indexer内核

llama.cpp版本b11469的唯一变更说明是“musa: use the tile lightning indexer kernel”,由Xiaodong Ye署名提交,对应PR #30080。发布页同时列出各平台预编译包,其中openEuler与macOS KleidiAI两项标注为DISABLED。

AI解读:该版本标题与变更记录只提到一项改动:在MUSA后端使用tile lightning indexer内核,PR编号 #30080,署名Xiaodong Ye。

发布页没有给出该内核的适用模型、精度条件或性能数据,因此无法从现有信息判断它对推理速度或显存占用的影响。

openEuler各构建(x86/aarch64的 310p、910b ACL Graph)标注为DISABLED,macOS Apple Silicon的KleidiAI构建同样标注DISABLED。

预编译产物覆盖macOS/iOS、Linux(Ubuntu,含CPU、Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16、Snapdragon)、Android arm64、Windows(CPU、OpenCL Adreno、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0)以及UI包。

MUSA是摩尔线程GPU的计算平台;本次改动标明的是后端内核替换,但来源未说明支持哪些MUSA设备或驱动版本。

llama.cpp发布b11469版本,唯一列出的改动是“musa: use the tile lightning indexer kernel”,对应PR #30080,署名Xiaodong Ye。

发布页同时提供各平台预编译包,openEuler构建与macOS Apple Silicon的KleidiAI构建标注为DISABLED。

本次改动

版本说明只包含一条变更:在MUSA后端使用tile lightning indexer内核(PR #30080),署名Xiaodong Ye。发布页未提供该内核的适用模型、数据类型或性能对比数据。

MUSA指摩尔线程GPU计算平台。来源没有说明该改动支持哪些MUSA设备、驱动版本或是否默认启用。

发布产物与限制

该版本按平台提供预编译二进制。macOS/iOS侧包括Apple Silicon(arm64)、Intel(x64)和iOS XCFramework;其中Apple Silicon的KleidiAI构建标注为DISABLED。

Linux侧覆盖Ubuntu x64/arm64/s390x CPU、Vulkan、CUDA 12.8与 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16,以及Snapdragon(CPU、Adreno GPU、Hexagon NPU)。openEuler的x86/aarch64的 310p与 910b(ACL Graph)构建均标注为DISABLED。

Android提供arm64 CPU和Snapdragon版本;Windows提供CPU(x64/arm64)、OpenCL Adreno、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL和ROCm 10.0版本。另有独立的UI包。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观