llama.cpp发布b11878:在ggml-cuda中融合Qwen MRoPE与set-rows
该版本由仓库自动发布,合并了PR #31025,变更范围限于CUDA后端的Qwen多模态位置编码与set-rows操作;发布页未给出性能数据。
AI解读:发布内容由github-actions[bot] 自动生成,除变更标题外未附说明、测试结果或性能数据,因此融合后能带来多少速度提升尚无法从来源判断。
该变更指向CUDA后端,对使用NVIDIA GPU并经CUDA构建运行Qwen系列模型的用户构成直接影响;CPU、Vulkan、Metal等其他后端不在这次变更的描述范围内。
b11878同步提供了macOS、iOS、Linux、Android、Windows的预编译包,涵盖CPU、CUDA 12.8、CUDA 13.4、Vulkan、ROCm 10.0、OpenVINO、SYCL等目标。
发布页中macOS Apple Silicon的KleidiAI版本与openEuler系列构建标注为DISABLED,未随该版本提供。
llama.cpp发布构建版本b11878,发布说明列出的唯一代码变更为“ggml-cuda: fuse qwen MRoPE + set-rows”,对应PR #31025。该发布由github-actions[bot] 自动生成。
本次变更指向CUDA后端的Qwen位置编码路径
发布说明仅给出一行标题,没有附变更描述、基准测试或效果数据。从标题本身看,改动发生在ggml-cuda后端,内容是把Qwen模型使用的MRoPE(多模态旋转位置编码)与set-rows操作进行融合。
来源未说明融合后影响哪些具体模型版本、是否改变数值结果,也未说明适用于哪些CUDA架构或显卡型号。因此在没有额外信息时,只能确认这是一项改动CUDA执行路径的提交。
- 变更条目:ggml-cuda: fuse qwen MRoPE + set-rows(PR #31025)
- 涉及组件:llama.cpp的ggml-cuda后端
- 发布者:github-actions[bot](自动发布)
- 来源未提供性能与正确性验证数据
随版本提供的预编译包
b11878按惯例提供多平台二进制包,覆盖macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu(x64/arm64/s390x,含Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16)、Linux arm64骁龙(CPU、Adreno GPU、Hexagon NPU)、Android arm64、Windows(CPU、CUDA 12.4/13.4、Vulkan、OpenCL Adreno、OpenVINO、SYCL、ROCm 10.0),以及UI包。
- CUDA构建分别提供 12.8 与 13.4 两条线,并单列对应的CUDA运行库压缩包
- 骁龙平台包附带Linux与Android的安装说明文档链接
- macOS Apple Silicon的KleidiAI版本标注为DISABLED(PR #23780),openEuler系列构建同样标注为DISABLED(PR #23705)