开源llama.cpp Releases·原文 2026年10月8日

llama.cpp b11497发布:SYCL后端融合delta-net alpha gate(add+unary+mul)

llama.cpp发布b11497版本,提交说明称在SYCL后端将delta-net的alpha gate的加法、一元运算与乘法三步融合为单条计算链,并新增覆盖该融合链的测试,同时为该融合alpha gate提供flat path并固定节点跳过。

AI解读:来源列出的具体动作包括三点:融合delta-net alpha gate的add、unary、mul;新增测试覆盖融合后的add+unary+mul链;为融合alpha gate增加flat path并pin节点跳过。

适用范围限于llama.cpp的SYCL后端;发布页同时提供Windows x64 SYCL、Ubuntu x64 SYCL FP32与SYCL FP16等构建产物下载。

发布页没有给出该融合带来的性能提升数字、延迟变化或与其他后端的对比结果,因此无法据此判断实际加速幅度。

b11497同时提供macOS/iOS、Linux、Android、Windows等多平台多后端二进制,但本次代码提交说明只描述SYCL相关的改动。

llama.cpp发布b11497版本,发布页记录的提交说明为“sycl: fuse the delta-net alpha gate (add + unary + mul) (#29687)”。

提交说明列出的改动包含:在SYCL后端融合delta-net alpha gate的add、unary、mul三步运算;新增测试覆盖融合后的add + unary + mul链;为融合后的alpha gate提供flat path,并固定节点跳过(pin the node skip)。

发布页列出了该版本对应的多平台、多后端二进制包,其中有Windows x64 SYCL、Ubuntu x64 SYCL FP32与Ubuntu x64 SYCL FP16等SYCL构建产物。

SYCL后端融合delta-net alpha gate

发布页给出的提交信息标题为“sycl: fuse the delta-net alpha gate (add + unary + mul) (#29687)”,编号 #29687 指向该改动对应的合并请求。

提交说明进一步列出三点:融合delta-net alpha gate的add、unary、mul;新增测试覆盖融合后的add + unary + mul链;为融合后的alpha gate增加flat path,并pin the node skip。

随版本提供的SYCL构建产物

b11497发布页提供Ubuntu x64(SYCL FP32)、Ubuntu x64(SYCL FP16)以及Windows x64(SYCL)的压缩包下载。

同一发布页还列出macOS Apple Silicon(arm64)、macOS Intel(x64)、iOS XCFramework、Ubuntu x64(CPU)、Ubuntu arm64(CPU)、Ubuntu s390x(CPU)、Ubuntu x64/arm64(Vulkan)、Ubuntu x64(CUDA 12)、Ubuntu x64/arm64(CUDA 13)、Ubuntu x64(ROCm 10.0)、Ubuntu x64(OpenVINO)、Linux arm64(Snapdragon: CPU、Adreno GPU、Hexagon NPU)、Android arm64(CPU)、Android arm64(Snapdragon: CPU、Adreno GPU、Hexagon NPU)、Windows x64/arm64(CPU)、Windows arm64(OpenCL Adreno)、Windows x64(CUDA 12)、Windows x64/arm64(CUDA 13)、Windows x64/arm64(Vulkan)、Windows x64(OpenVINO)、Windows x64(ROCm 10.0)、UI等构建产物。

发布页标注macOS Apple Silicon(arm64,KleidiAI enabled)为DISABLED,openEuler相关条目页面显示为DISABLED,并列出openEuler x86(310p)、openEuler x86(910b, ACL Graph)、openEuler aarch64(310p)、openEuler aarch64(910b, ACL Graph)等条目。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观