开源llama.cpp Releases·原文 2026年11月19日

llama.cpp b12527在加载阶段拒绝越界MUDD配置

llama.cpp发布b12527构建,变更说明称模型加载时会拒绝n_layer×n_mudd_taps超过 512 的MUDD配置,以避免读取固定数组mudd_tap_idx越界;同一项检查覆盖张量加载与图构建两处索引位置。

AI解读:llama.cpp发布b12527,主要变更位于模型加载环节:拒绝会在加载时索引超出mudd_tap_idx范围的MUDD配置(#32562)。

按变更说明,n_mudd_taps取自limite.mudd.tap_count,该标量与经过长度校验的tap_indices数组分开读取。

mudd_tap_idx是固定大小的std::array,在张量加载和图构建中都按 [i*n_taps] 索引;因此构造n_layer×n_mudd_taps大于 512 的GGUF会读越界。

修复方式是在hparams加载时直接拒绝该配置,一处检查同时覆盖上述两个索引位置。

发布页同时列出macOS、iOS、Linux、Android、Windows等平台的构建产物;KleidiAI的macOS arm64构建与openEuler构建标注为DISABLED,attestations一项未列出内容。

llama.cpp发布b12527版本,变更说明中的主要改动是一项加载阶段的校验:拒绝会在加载时索引超出mudd_tap_idx的MUDD配置(#32562)。

越界来源与修复位置

变更说明解释了越界的成因:n_mudd_taps来自limite.mudd.tap_count,这个标量与经过长度校验的tap_indices数组是分开读取的。mudd_tap_idx是固定大小的std::array,在张量加载和图构建两处都按 [i*n_taps] 索引。

因此,一个构造过的GGUF若满足n_layer * n_mudd_taps > 512,就会读到该数组之外。修复做法是在hparams加载时拒绝这类配置,一处检查同时覆盖两个索引位置。

  • n_mudd_taps取自limite.mudd.tap_count,与经过长度校验的tap_indices分开读取
  • mudd_tap_idx为固定std::array,在张量加载与图构建中均按 [i*n_taps] 索引
  • 触发条件:n_layer * n_mudd_taps > 512 的GGUF
  • 校验位置:hparams加载阶段

随版本提供的构建产物

发布页列出b12527在macOS、iOS、Linux、Android、Windows上的构建产物,涵盖CPU、CUDA 12/13、Vulkan、ROCm、OpenVINO、SYCL以及Snapdragon的CPU/Adreno GPU/Hexagon NPU等后端。发布页将macOS Apple Silicon的KleidiAI构建和openEuler构建标注为DISABLED,Attestations一栏没有列出内容。

  • macOS:Apple Silicon arm64(KleidiAI版DISABLED)、Intel x64、iOS XCFramework
  • Linux:Ubuntu x64/arm64 CPU、s390x、Vulkan、CUDA 12与 13、ROCm 10.0、OpenVINO、SYCL
  • Windows:CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、ROCm 10.0
  • Android:arm64 CPU与Snapdragon版

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观