llama.cpp发布b12074:delta_net卷积状态改为视图访问,回滚槽位索引移至主机端
llama.cpp新构建b12074的唯一功能性改动集中在delta_net_base的卷积状态重构:卷积窗口的回滚槽位索引改为在主机端填充的I32输入,取代设备端的arange与argsort计算,meta后端不再需要为ARANGE做镜像拆分。其余内容为各平台预编译包链接。
AI解读:b12074的核心改动是delta_net_base重构卷积状态(提交 #30878),delta_net改为通过视图访问卷积状态,并修复了sm tensor。
meta后端因此不再需要为ARANGE维护一份镜像拆分。
发布页同时提供macOS/iOS、Linux、Android、Windows等平台的预编译包,其中macOS Apple Silicon的KleidiAI版本和openEuler相关构建标注为DISABLED。
changes未给出性能数据、适用模型范围或与旧版本的兼容性说明;该重构对推理结果的影响未经来源披露。
llama.cpp发布构建b12074。发布说明列出的功能性改动只有一项:delta_net_base重构卷积状态(#30878),提交由Pascal共同署名。
改动细节按发布说明:delta_net通过视图访问卷积状态;修复sm tensor;卷积窗口的回滚槽位索引对每种图结构是常量,现在改为循环内存的一个I32输入并在主机端填充,取代此前在设备上计算的arange和argsort,meta后端不再需要为ARANGE保留镜像拆分。
改动内容与提交信息
发布页把b12074的changes归为一条delta_net_base: refactor conv state (#30878),来源为llama.cpp Releases,发布者标注为github-actions[bot]。
- delta_net改为通过视图访问卷积状态。
- 修复sm tensor。
- 回滚槽位索引由设备端arange加argsort改为主机端填充的I32输入。
- meta后端去掉针对ARANGE的镜像拆分。
构建产物
发布页按平台列出预编译包:macOS/iOS提供Apple Silicon arm64、Intel x64和iOS XCFramework;Linux覆盖Ubuntu x64/arm64/s390x的CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1和SYCL FP32/FP16等版本,另有Snapdragon的Linux arm64包;Android提供arm64 CPU与Snapdragon三后端包;Windows覆盖x64/arm64的CPU、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0和OpenCL Adreno;另附UI包。
- macOS Apple Silicon(arm64,启用KleidiAI)标注为DISABLED,链接指向PR #23780。
- openEuler各构建(x86 310p、x86 910b ACL Graph、aarch64 310p、aarch64 910b ACL Graph)标注为DISABLED,链接指向PR #23705。
AI解读
对普通使用者而言,这项改动最直接的影响面是运行delta_net类模型时的图执行方式,而非模型权重或接口调用:回滚槽位索引从设备端算子计算变成主机端常量输入,减少的是设备端为ARANGE与argsort所做的准备工作。发布说明没有给出速度、内存或精度方面的前后对比,因此不能据此推断加速幅度;如果关心具体表现,需要以对应平台构建的实测为准。