llama.cpp b11496发布:SYCL后端模型加载改用固定环形缓冲区批量上传
该版本由cwriter合入PR #29608,将SYCL后端的模型加载批量上传改为通过固定(pinned)环形缓冲区分阶段进行;版本同时提供macOS、Linux、Windows、Android等多平台预编译包。
AI解读:发布页面列出macOS/iOS、Linux、Android、Windows、openEuler和UI等平台的预编译产物,SYCL构建包括Ubuntu x64的FP32与FP16版本,以及Windows x64 SYCL版本。
同一发布页中,macOS Apple Silicon的KleidiAI版本与openEuler相关构建标注为DISABLED,并分别链接到PR #23780 与PR #23705。
llama.cpp发布b11496。该版本的一项变更是SYCL后端在模型加载时的批量上传改为通过固定(pinned)环形缓冲区分阶段进行,对应PR #29608,提交由cwriter合入。
b11496的代码变更
发布说明中写明:sycl: stage bulk uploads (model loading) through a pinned ring buffer (#29608),合入者为cwriter。该描述只涉及SYCL后端模型加载阶段的批量上传路径。发布说明未提供性能数据或与旧实现的对比结果。
随版本提供的构建产物
发布页列出各平台预编译包。SYCL相关构建包括Ubuntu x64的SYCL FP32与SYCL FP16,以及Windows x64 SYCL。
其他列出的平台构建涵盖macOS Apple Silicon(arm64)、macOS Intel(x64)、iOS XCFramework、Ubuntu(x64、arm64、s390x,含CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO等变体)、Linux arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU)、Android arm64(CPU与Snapdragon变体)、Windows(CPU、OpenCL Adreno、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0)、openEuler以及独立的UI包。
- macOS Apple Silicon(arm64,KleidiAI enabled)标注为DISABLED,链接至PR #23780;openEuler各构建同样标注DISABLED,链接至PR #23705。
- Windows与Ubuntu的CUDA构建附带单独的CUDA运行库压缩包(如CUDA 12.4、12.8、13.4)。
- Snapdragon相关构建在发布页分别提供Linux与Android的setup guide链接。