开源llama.cpp Releases·原文 2026年11月13日

llama.cpp b12343发布:Qwen3.5转换阶段也合并张量

llama.cpp发布构建b12343,提交说明为“qwen3.5: merge tensors on convert also (#32102)”,并移除了Qwen3.5的转换测试。

AI解读:llama.cpp发布b12343构建,核心变更来自PR #32102,提交标题为“qwen3.5: merge tensors on convert also”,即在模型转换环节同样对Qwen3.5张量执行合并。

发布页按平台列出预编译包,覆盖macOS(Apple Silicon arm64、Intel x64)、iOS XCFramework、Linux(Ubuntu x64/arm64/s390x,含CPU、Vulkan、CUDA 12.8、CUDA 13.5、ROCm 10.0、OpenVINO、SYCL等变体)、Android arm64、Windows(CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm)以及UI包。

发布页中macOS Apple Silicon的KleidiAI启用版本和openEuler相关构建标注为DISABLED。

发布说明未给出该改动的效果数据或适用范围说明,因此只能确认转换流程发生变化,无法判断对具体模型转换结果的影响。

llama.cpp发布b12343构建。该版本的主要提交为PR #32102,标题是“qwen3.5: merge tensors on convert also”,内容是在转换环节也对Qwen3.5张量进行合并。

同一提交还包含“Remove conversion test for qwen3.5”,即移除Qwen3.5的转换测试。以上为发布页提交说明所述内容。

本次提交改动

发布说明只列出提交标题,没有附代码差异或性能数据。从标题看,改动针对Qwen3.5的模型转换流程:此前可能在加载或其他环节合并张量,这次把合并动作也放到转换阶段执行。

同时被移除的是Qwen3.5的转换测试,发布说明未说明移除原因,也未说明是否有替代测试。

随版本提供的构建

b12343按平台提供预编译包:macOS有Apple Silicon arm64与Intel x64,另有iOS XCFramework;Linux覆盖Ubuntu x64、arm64和s390x,包含CPU、Vulkan、CUDA 12.8、CUDA 13.5、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16,以及面向Snapdragon的CPU、Adreno GPU、Hexagon NPU包;Android提供arm64 CPU与Snapdragon组合包;Windows覆盖x64/arm64的CPU、CUDA 12.4、CUDA 13.5、Vulkan、OpenVINO、SYCL、ROCm包,另有UI包。

  • macOS Apple Silicon的KleidiAI启用版本标注为DISABLED,并链接到PR #23780。
  • openEuler的x86(310p、910b ACL Graph)与aarch64(310p、910b ACL Graph)构建均标注为DISABLED,链接到PR #23705。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观