llama.cpp b12125在Adreno X2上默认启用f32与q5_K多列GEMV
该版本OpenCL后端针对骁龙X2E默认启用小N场景的f32 GEMV和q5_K多列验证GEMV,提交由Shaofei Qi等人完成,合并请求编号 #31694。
AI解读:llama.cpp发布b12125版本,OpenCL后端的一项变更是针对Adreno X2默认启用两种GEMV路径:小N场景下的f32 GEMV,以及q5_K的多列验证GEMV。
变更说明中目标机型写作X2E;合并请求编号为 #31694,共同作者包括Shaofei Qi、Li He,提交说明标注Assisted-by: Claude Opus 5.5。
发布页同时列出各平台构建产物,其中包含Windows arm64(OpenCL Adreno)与Linux/Android arm64骁龙(CPU、Adreno GPU、Hexagon NPU)包;发布说明未给出该变更的性能测试数据。
llama.cpp发布b12125版本。发布说明显示,其OpenCL后端针对Adreno X2默认启用f32和q5_K两种多列GEMV:小N场景使用f32 GEMV,q5_K多列验证GEMV也改为默认开启,目标机型标注为X2E。
变更内容与提交信息
发布说明把这项变更列为b12125的条目,引用合并请求 #31694。两条提交分别写明:在X2E上默认使用小N的f32 GEMV;在X2E上默认使用q5_K多列验证GEMV。
提交信息标注Assisted-by: Claude Opus 5.5,共同作者为Shaofei Qi,合并请求另列Li He为共同作者。发布页未附基准测试或吞吐数据。
- 合并请求编号:#31694
- 默认启用项:小N的f32 GEMV、q5_K多列验证GEMV
- 目标硬件在提交信息中写作X2E,标题写作Adreno X2
适用平台与获取方式
该版本发布页列出macOS/iOS、Linux、Android、Windows等平台的构建产物。与Adreno GPU相关的包包括Windows arm64(OpenCL Adreno)和Linux、Android arm64的骁龙包(含CPU、Adreno GPU、Hexagon NPU)。
- Windows arm64 OpenCL Adreno包:llama-b12125-bin-win-opencl-adreno-arm64.zip
- Linux arm64骁龙包:llama-b12125-bin-linux-arm64-snapdragon.tar.gz
- Android arm64骁龙包:llama-b12125-bin-android-arm64-snapdragon.tar.gz