开源llama.cpp Releases·原文 2026年11月8日

llama.cpp b12192发布:mtmd新增对MageVL-Cowork模型的支持

该版本由llama.cpp项目通过GitHub Actions发布,核心变更是多模态模块mtmd支持MageVL-Cowork;提交说明还调整了该模型rope_freqs的存放位置与加载校验。

AI解读:提交说明称,MageVL的rope_freqs由每一层共享,因此改为存放在clip_model中,不再以指针形式复制到每个clip_layer。

加载器新增校验:v.rope_freqs必须是F32、包含d_head个元素,且d_head需按图所预期的 4:6:6 拆分成三组。

发布页同时提供macOS/iOS、Linux、Android、Windows各平台的预编译包,涵盖CPU、CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL以及Snapdragon等后端。

发布页显示macOS Apple Silicon的KleidiAI版本和openEuler构建被标记为DISABLED,分别链接到PR #23780 和 #23705。

llama.cpp发布b12192版本,主要变更是mtmd模块新增对MageVL-Cowork模型的支持(PR #31819)。该发布由项目仓库的github-actions[bot] 账号发布,提交说明署名中包含Pascal。

MageVL支持改动了什么

提交说明称,MageVL的rope_freqs由所有层共享,因此这次改为存放在clip_model中,而不是把指针复制进每个clip_layer。

加载器同时新增检查:v.rope_freqs必须是F32类型、包含d_head个元素,并且d_head要按计算图预期的 4:6:6 拆分成三对。

发布覆盖的平台与后端

发布页为macOS/iOS、Linux、Android、Windows提供预编译包。Linux侧覆盖Ubuntu x64/arm64/s390x的CPU版本,以及CUDA 12.8、CUDA 13.5、Vulkan、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16构建,另有Snapdragon的CPU、Adreno GPU、Hexagon NPU包。

Windows侧提供CPU(x64/arm64)、OpenCL Adreno、CUDA 12.4/13.5、Vulkan、OpenVINO、SYCL、ROCm 10.0等构建;Android提供CPU与Snapdragon两种包。

被标记为禁用的构建

发布页把macOS Apple Silicon的KleidiAI版本标记为DISABLED,并链接到PR #23780;openEuler的x86/aarch64的 310p与 910b(ACL Graph)构建同样标记为DISABLED,链接到PR #23705。发布说明未解释禁用原因。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观