开源llama.cpp Releases·原文 2026年10月26日

llama.cpp发布b11895,修复Metal后端大矩阵输出偏移溢出

该版本的主要变更是阻止Metal后端在大矩阵输出偏移处发生溢出,并拓宽batch偏移与MUL_MAT_ID的token索引;发布说明同时列出了macOS/iOS、Linux、Android、Windows等平台及各计算后端的预编译包。

AI解读:发布页列出macOS Apple Silicon(arm64)、macOS Intel(x64)、iOS XCFramework以及Linux、Android、Windows多个平台与后端的预编译包。

发布页显示macOS Apple Silicon的KleidiAI启用版本、openEuler相关构建均标注为DISABLED。

可供判断的公开信息集中在提交说明与构建产物列表,未给出该溢出修复的效果数据或受影响的模型规模范围。

llama.cpp发布b11895版本。发布页引用的提交说明称,该改动用于阻止Metal后端在大矩阵输出偏移处发生溢出(#30072)。

同一提交还包含“拓宽batch偏移和MUL_MAT_ID token索引”的改动,提交信息标注Assisted-by: Codex,共同作者为feni6。

提交说明中的具体改动

发布页顶部列出的变更标题为“metal : stop overflow from happening in large matrix output offsets (#30072)”,正文条目拆为两点:阻止大矩阵输出偏移的溢出;拓宽batch偏移与MUL_MAT_ID的token索引。

上述描述来自提交与发布说明本身,发布页没有附带复现步骤、受影响的模型规模或修复前后的对比数据。

  • 修复对象:Metal后端的大矩阵输出偏移溢出。
  • 关联改动:拓宽batch偏移和MUL_MAT_ID token索引。
  • 提交信息注明Assisted-by: Codex,Co-authored-by: feni6。

同批发布的构建产物

发布页按平台列出b11895的预编译包。macOS/iOS部分包括macOS Apple Silicon(arm64)、macOS Intel(x64)与iOS XCFramework;其中macOS Apple Silicon的KleidiAI启用版本标注为DISABLED,并链接到PR #23780。

Linux部分覆盖Ubuntu x64/arm64/s390x的CPU构建,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等后端构建,另有面向Snapdragon(CPU、Adreno GPU、Hexagon NPU)的Linux arm64包。

Windows部分包括x64与arm64的CPU包,以及CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0等x64包和arm64的OpenCL Adreno、CUDA 13.4包;Android提供arm64的CPU包与Snapdragon包;openEuler的各项构建标注为DISABLED,并链接到PR #23705。此外还单独提供UI包。

  • macOS Apple Silicon KleidiAI启用版本:DISABLED(PR #23780)。
  • openEuler x86/aarch64相关构建:DISABLED(PR #23705)。
  • Linux与Windows均提供CUDA 12与CUDA 13两条线的构建包。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观