llama.cpp b11827为OpenCL后端加入Adreno深度可分离卷积
该版本提交说明显示,OpenCL后端新增了面向Adreno GPU的depthwise conv2d实现,并改用本地program执行该算子;同版发布包覆盖macOS、Linux、Windows、Android等多个平台。
AI解读:读者最需要弄清的是:这次改动只涉及OpenCL后端里的一个算子,面向高通Adreno GPU,并不代表所有后端或所有GPU都获得同等支持。
按提交说明,改动包括在OpenCL后端加入Adreno的depthwise conv2d,以及在实现中使用本地program,参数改用带符号类型。
版本发布页同时列出macOS/iOS、Linux、Android、Windows等平台构建包,其中Windows arm64有专门的OpenCL Adreno包,Linux和Android有骁龙平台的CPU、Adreno GPU、Hexagon NPU打包。
页面未给出性能数据或适用模型范围,因此不能据此推断加速幅度。
提交说明署名包含Co-authored-by: Li He,并注明Assisted-by: OpenCode;这是提交层面的信息,不是独立评测结果。
llama.cpp发布b11827版本,提交说明记为“opencl: add depthwise conv2d (#30900)”,即在OpenCL后端新增深度可分离卷积(depthwise conv2d)支持。
提交说明写明该实现面向Adreno,并使用本地program执行depthwise conv2d,参数使用带符号类型。
b11827中的OpenCL改动
发布页将该版本的首要条目列为“opencl: add depthwise conv2d (#30900)”。提交信息列出三点:为Adreno增加depthwise conv2d;对该算子使用本地program;参数采用带符号类型。
提交说明标注Co-authored-by: Li He,并在两处标注Assisted-by: OpenCode。
- 新增内容限于OpenCL后端的depthwise conv2d算子。
- 实现面向Adreno GPU。
- 未在发布说明中给出速度、精度或内存数据。
发布包覆盖的平台
同一版本页面列出各平台构建产物。与Adreno相关的条目包括Windows arm64的OpenCL Adreno包,以及Linux arm64和Android arm64的骁龙打包,后者标注包含CPU、Adreno GPU和Hexagon NPU。
其他构建覆盖macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu的CPU、Vulkan、CUDA 12/13、ROCm、OpenVINO、SYCL版本,以及Windows的CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm版本。页面还标注macOS Apple Silicon的KleidiAI版本为DISABLED,openEuler相关构建同样标注DISABLED。
- Windows arm64提供单独的OpenCL Adreno构建。
- Linux arm64和Android arm64提供骁龙CPU/GPU/NPU合并包。
- macOS KleidiAI与openEuler构建在页面上标为DISABLED。