llama.cpp发布b11511:修复CUDA后端MMQ越界读取
该版本由仓库自动化账号发布,变更条目为“CUDA: fix MMQ out-of-bounds reads (#29953)”,即针对CUDA后端MMQ的越界读取问题;同时按平台提供CPU、CUDA 12/13、Vulkan、ROCm、SYCL、OpenVINO等预编译包。
AI解读:这是llama.cpp的构建版本b11511,发布渠道为GitHub Releases,发布账号标注为github-actions[bot]。
来源没有说明该越界读取的具体触发条件、影响范围、修复方式或性能影响,也未给出验证数据。
发布页按平台列出预编译产物:macOS(Apple Silicon、Intel)、iOS XCFramework、Linux(Ubuntu x64/arm64/s390x,含CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16)、Android、Windows、openEuler及UI包。
来源中macOS的KleidiAI版本与openEuler相关构建标注为DISABLED,说明这些产物在本版本中未启用。
llama.cpp发布构建版本b11511,发布页记录的唯一变更项是编号 #29953 的补丁,标题为“CUDA: fix MMQ out-of-bounds reads”,指向CUDA后端MMQ的越界读取修复。
本次变更与产物范围
发布信息来自llama.cpp仓库的Releases页面,发布账号显示为github-actions[bot]。版本号为b11511,变更说明只有一行:“CUDA: fix MMQ out-of-bounds reads (#29953)”。
页面同时列出该版本的多平台二进制产物,覆盖macOS、iOS、Linux、Android、Windows、openEuler以及一个UI包。Linux产物按后端进一步细分,包括CUDA 12.8、CUDA 13.4、Vulkan、ROCm 10.0、SYCL FP32/FP16、OpenVINO和Snapdragon等。
来源没有说明MMQ越界读取的具体触发条件、影响范围或补丁实现方式,也没有提供修复前后的对比数据。
- 版本:b11511,发布渠道为llama.cpp Releases
- 变更条目:CUDA: fix MMQ out-of-bounds reads (#29953)
- macOS产物:Apple Silicon(arm64)、Intel(x64)、iOS XCFramework
- Linux产物:Ubuntu x64/arm64/s390x,含CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16
- 其他平台:Android arm64、Windows x64/arm64、openEuler、UI包
- 标注为DISABLED:macOS Apple Silicon的KleidiAI版本、openEuler相关构建
读者需要弄清的一点:这次修复影响谁
从发布页看,本次改动只针对CUDA后端的MMQ路径。使用CPU、Vulkan、ROCm、SYCL或OpenVINO等非CUDA后端的用户,在当前版本的说明中并不涉及该修复。
页面只声明“修复越界读取”,没有给出该问题是否会导致崩溃、结果错误或安全影响的说明,也没有说明哪些模型类型、量化格式或输入长度会触发。因此无法据此判断具体使用场景下的风险边界,只能确认该修复包含在b11511的CUDA构建中。
来源也未说明该补丁是否回溯到旧版本,或是否要求用户升级到b11511才能获得修复。