开源llama.cpp Releases·原文 2026年9月22日

llama.cpp发布b11093:修复Metal闪存注意力掩码边界

llama.cpp发布b11093版本,核心改动是修复Metal后端flash attention块预处理阶段的掩码边界问题(PR #29220),并同步放出macOS、Linux、Windows、Android等多平台预编译包。

AI解读:这条更新值得关心的点只有一个:Metal后端flash attention的掩码边界被修了。flash attention在推理时会分块处理注意力矩阵,掩码用来标记哪些位置不该被计算;边界处理出错,就可能在某些分块组合下读到不该读的区域或算错结果。

谁受影响?主要是用Apple Silicon跑llama.cpp、并且走Metal后端的用户——Mac本地跑模型、iPhone/iPad上跑llama.cpp的那批人。修复本身不改变接口,属于底层正确性修补。

当然,如果你只是在英伟达显卡或纯CPU上跑,这次b11093跟你关系不大。更新节奏是llama.cpp一贯的每日构建,预编译包覆盖了macOS、iOS、Linux(含CUDA 12/13、ROCm、Vulkan、OpenVINO、SYCL)、Windows和Android。

llama.cpp发布b11093版本,本次唯一的代码改动记录为:修复Metal后端flash attention块预处理(block pre-pass)阶段的掩码(mask)边界问题,对应PR #29220。

版本号在发布页标题与所有产物文件名中均为b11093;发布说明除该PR标题外未提供更多技术细节。

发布页同时列出了各平台预编译产物,包括macOS Apple Silicon(arm64)、macOS Intel(x64)、iOS XCFramework、Ubuntu(x64/arm64/s390x,含CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4、SYCL FP32/FP16等变体)、Android arm64以及Windows(x64/arm64,含CPU、OpenCL Adreno、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0等变体)。

根据发布页标注,macOS Apple Silicon的KleidiAI启用版本与openEuler相关构建处于DISABLED状态,并分别指向PR #23780 与PR #23705。

发布页还提供UI产物与CUDA运行时库(cudart)包,但未附本次修复的具体测试数据或影响范围说明。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观