llama.cpp发布b11895,修复Metal后端大矩阵输出偏移溢出
该版本的主要变更是阻止Metal后端在大矩阵输出偏移处发生溢出,并拓宽batch偏移与MUL_MAT_ID的token索引;发布说明同时列出了macOS/iOS、Linux、Android、Windows等平台及各计算后端的预编译包。
AI解读:发布页列出macOS Apple Silicon(arm64)、macOS Intel(x64)、iOS XCFramework以及Linux、Android、Windows多个平台与后端的预编译包。
发布页显示macOS Apple Silicon的KleidiAI启用版本、openEuler相关构建均标注为DISABLED。
可供判断的公开信息集中在提交说明与构建产物列表,未给出该溢出修复的效果数据或受影响的模型规模范围。
llama.cpp发布b11895版本。发布页引用的提交说明称,该改动用于阻止Metal后端在大矩阵输出偏移处发生溢出(#30072)。
同一提交还包含“拓宽batch偏移和MUL_MAT_ID token索引”的改动,提交信息标注Assisted-by: Codex,共同作者为feni6。
提交说明中的具体改动
发布页顶部列出的变更标题为“metal : stop overflow from happening in large matrix output offsets (#30072)”,正文条目拆为两点:阻止大矩阵输出偏移的溢出;拓宽batch偏移与MUL_MAT_ID的token索引。
上述描述来自提交与发布说明本身,发布页没有附带复现步骤、受影响的模型规模或修复前后的对比数据。
- 修复对象:Metal后端的大矩阵输出偏移溢出。
- 关联改动:拓宽batch偏移和MUL_MAT_ID token索引。
- 提交信息注明Assisted-by: Codex,Co-authored-by: feni6。
同批发布的构建产物
发布页按平台列出b11895的预编译包。macOS/iOS部分包括macOS Apple Silicon(arm64)、macOS Intel(x64)与iOS XCFramework;其中macOS Apple Silicon的KleidiAI启用版本标注为DISABLED,并链接到PR #23780。
Linux部分覆盖Ubuntu x64/arm64/s390x的CPU构建,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等后端构建,另有面向Snapdragon(CPU、Adreno GPU、Hexagon NPU)的Linux arm64包。
Windows部分包括x64与arm64的CPU包,以及CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0等x64包和arm64的OpenCL Adreno、CUDA 13.4包;Android提供arm64的CPU包与Snapdragon包;openEuler的各项构建标注为DISABLED,并链接到PR #23705。此外还单独提供UI包。
- macOS Apple Silicon KleidiAI启用版本:DISABLED(PR #23780)。
- openEuler x86/aarch64相关构建:DISABLED(PR #23705)。
- Linux与Windows均提供CUDA 12与CUDA 13两条线的构建包。