开源llama.cpp Releases·原文 2026年10月26日

llama.cpp发布b11886:Qwen转换时合并张量

llama.cpp构建版本b11886的更新说明显示,本次提交为“qwen: merge tensors on convert”,并包含转换脚本改用生成器函数、qwen4exp移除常量与预缩放等改动。

AI解读:发布页按平台提供构建产物,覆盖macOS/iOS、Linux、Android、Windows,以及UI包。

Linux构建包含CPU、Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL等变体;来源未给出各变体的性能数据。

macOS Apple Silicon的KleidiAI启用版本标注为DISABLED;openEuler相关构建整体标注为DISABLED。

llama.cpp发布构建版本b11886。发布说明列出的主要改动为“qwen: merge tensors on convert”(#31028),即针对Qwen模型在转换流程中合并张量。

该次提交的说明条目还包括:转换(convert)使用生成器函数;qwen4exp移除常量(conts)与预缩放(pre-scale)。来源未说明这些改动对具体模型转换结果或推理表现的影响。

b11886包含的代码改动

发布页把本次更新标注为提交“qwen: merge tensors on convert”(#31028)。提交说明的三条要点分别是:Qwen在转换时合并张量;convert使用生成器函数;qwen4exp移除conts和pre-scale。

来源未提供改动前后的转换产物对比、兼容性说明或测试结果,因此无法据此判断哪些Qwen模型版本或转换脚本会受影响。

发布产物的平台范围

b11886的发布页提供多平台构建包。macOS/iOS方向包括macOS Apple Silicon(arm64)、macOS Intel(x64)和iOS XCFramework;其中macOS Apple Silicon的KleidiAI启用版本标注为DISABLED。

Linux方向提供Ubuntu x64、arm64、s390x的CPU构建,以及Vulkan、CUDA 12(对应CUDA 12.8库)、CUDA 13(对应CUDA 13.4库)、ROCm 10.0、OpenVINO和SYCL(FP32、FP16)等变体,另有面向Snapdragon的Linux arm64包。Android提供arm64 CPU包与Snapdragon(CPU、Adreno GPU、Hexagon NPU)包。

Windows方向覆盖x64与arm64的CPU构建,以及CUDA 12、CUDA 13、Vulkan、OpenVINO、SYCL、ROCm 10.0和arm64 OpenCL Adreno等变体。openEuler的x86与aarch64条目均标注为DISABLED;发布页另附UI包。

  • macOS Apple Silicon(arm64,KleidiAI enabled)标注DISABLED
  • openEuler x86(310p、910b ACL Graph)与aarch64(310p、910b ACL Graph)标注DISABLED
  • Linux CUDA 12对应CUDA 12.8库;CUDA 13对应CUDA 13.4库

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观