llama.cpp发布b11886:Qwen转换时合并张量
llama.cpp构建版本b11886的更新说明显示,本次提交为“qwen: merge tensors on convert”,并包含转换脚本改用生成器函数、qwen4exp移除常量与预缩放等改动。
AI解读:发布页按平台提供构建产物,覆盖macOS/iOS、Linux、Android、Windows,以及UI包。
Linux构建包含CPU、Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL等变体;来源未给出各变体的性能数据。
macOS Apple Silicon的KleidiAI启用版本标注为DISABLED;openEuler相关构建整体标注为DISABLED。
llama.cpp发布构建版本b11886。发布说明列出的主要改动为“qwen: merge tensors on convert”(#31028),即针对Qwen模型在转换流程中合并张量。
该次提交的说明条目还包括:转换(convert)使用生成器函数;qwen4exp移除常量(conts)与预缩放(pre-scale)。来源未说明这些改动对具体模型转换结果或推理表现的影响。
b11886包含的代码改动
发布页把本次更新标注为提交“qwen: merge tensors on convert”(#31028)。提交说明的三条要点分别是:Qwen在转换时合并张量;convert使用生成器函数;qwen4exp移除conts和pre-scale。
来源未提供改动前后的转换产物对比、兼容性说明或测试结果,因此无法据此判断哪些Qwen模型版本或转换脚本会受影响。
发布产物的平台范围
b11886的发布页提供多平台构建包。macOS/iOS方向包括macOS Apple Silicon(arm64)、macOS Intel(x64)和iOS XCFramework;其中macOS Apple Silicon的KleidiAI启用版本标注为DISABLED。
Linux方向提供Ubuntu x64、arm64、s390x的CPU构建,以及Vulkan、CUDA 12(对应CUDA 12.8库)、CUDA 13(对应CUDA 13.4库)、ROCm 10.0、OpenVINO和SYCL(FP32、FP16)等变体,另有面向Snapdragon的Linux arm64包。Android提供arm64 CPU包与Snapdragon(CPU、Adreno GPU、Hexagon NPU)包。
Windows方向覆盖x64与arm64的CPU构建,以及CUDA 12、CUDA 13、Vulkan、OpenVINO、SYCL、ROCm 10.0和arm64 OpenCL Adreno等变体。openEuler的x86与aarch64条目均标注为DISABLED;发布页另附UI包。
- macOS Apple Silicon(arm64,KleidiAI enabled)标注DISABLED
- openEuler x86(310p、910b ACL Graph)与aarch64(310p、910b ACL Graph)标注DISABLED
- Linux CUDA 12对应CUDA 12.8库;CUDA 13对应CUDA 13.4库