llama.cpp b12527在加载阶段拒绝越界MUDD配置
llama.cpp发布b12527构建,变更说明称模型加载时会拒绝n_layer×n_mudd_taps超过 512 的MUDD配置,以避免读取固定数组mudd_tap_idx越界;同一项检查覆盖张量加载与图构建两处索引位置。
AI解读:llama.cpp发布b12527,主要变更位于模型加载环节:拒绝会在加载时索引超出mudd_tap_idx范围的MUDD配置(#32562)。
按变更说明,n_mudd_taps取自limite.mudd.tap_count,该标量与经过长度校验的tap_indices数组分开读取。
mudd_tap_idx是固定大小的std::array,在张量加载和图构建中都按 [i*n_taps] 索引;因此构造n_layer×n_mudd_taps大于 512 的GGUF会读越界。
修复方式是在hparams加载时直接拒绝该配置,一处检查同时覆盖上述两个索引位置。
发布页同时列出macOS、iOS、Linux、Android、Windows等平台的构建产物;KleidiAI的macOS arm64构建与openEuler构建标注为DISABLED,attestations一项未列出内容。
llama.cpp发布b12527版本,变更说明中的主要改动是一项加载阶段的校验:拒绝会在加载时索引超出mudd_tap_idx的MUDD配置(#32562)。
越界来源与修复位置
变更说明解释了越界的成因:n_mudd_taps来自limite.mudd.tap_count,这个标量与经过长度校验的tap_indices数组是分开读取的。mudd_tap_idx是固定大小的std::array,在张量加载和图构建两处都按 [i*n_taps] 索引。
因此,一个构造过的GGUF若满足n_layer * n_mudd_taps > 512,就会读到该数组之外。修复做法是在hparams加载时拒绝这类配置,一处检查同时覆盖两个索引位置。
- n_mudd_taps取自limite.mudd.tap_count,与经过长度校验的tap_indices分开读取
- mudd_tap_idx为固定std::array,在张量加载与图构建中均按 [i*n_taps] 索引
- 触发条件:n_layer * n_mudd_taps > 512 的GGUF
- 校验位置:hparams加载阶段
随版本提供的构建产物
发布页列出b12527在macOS、iOS、Linux、Android、Windows上的构建产物,涵盖CPU、CUDA 12/13、Vulkan、ROCm、OpenVINO、SYCL以及Snapdragon的CPU/Adreno GPU/Hexagon NPU等后端。发布页将macOS Apple Silicon的KleidiAI构建和openEuler构建标注为DISABLED,Attestations一栏没有列出内容。
- macOS:Apple Silicon arm64(KleidiAI版DISABLED)、Intel x64、iOS XCFramework
- Linux:Ubuntu x64/arm64 CPU、s390x、Vulkan、CUDA 12与 13、ROCm 10.0、OpenVINO、SYCL
- Windows:CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、ROCm 10.0
- Android:arm64 CPU与Snapdragon版