开源llama.cpp Releases·原文 2026年10月8日

llama.cpp发布b11481,mtmd新增Cohere2视觉模型支持

llama.cpp的b11481版本在mtmd中加入了cohere2视觉支持(PR #30062),并同步发布覆盖macOS、Linux、Windows、Android等多平台的预编译包。

AI解读:这次变更的作用范围是llama.cpp的mtmd(多模态)部分:新增cohere2视觉模型支持,对应PR #30062。这是代码提交层面的功能合并,不等于对Cohere2视觉能力做了公开评测。

需要跑Cohere2视觉模型的用户,应使用b11481或之后包含该PR的构建;官方同步提供了macOS/iOS、Linux、Windows、Android等平台的预编译包下载,覆盖CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO等后端。

来源未给出Cohere2视觉支持的准确率、速度或与其他模型对比数据,因此无法据此判断其在具体任务上的表现,只能确认支持已进入代码库并随版本发布。

llama.cpp发布b11481版本,该版本在mtmd中新增对cohere2视觉模型的支持,对应PR #30062。

该PR的提交说明包括“cohere2 vision model”“address comments”“remove redundant mapping”“follow existing patterns”“fused linear_1”。

随版本一同发布的还有各平台预编译二进制包,覆盖macOS/iOS、Linux、Windows、Android以及UI构建。

b11481中的具体改动

本次发布的核心变更是mtmd增加cohere2视觉支持,提交信息标注了PR编号 #30062,并在说明中列出若干实现要点,包括移除冗余映射、沿用既有实现模式以及fused linear_1。

来源只提供了提交标题和要点,未附性能或精度数据,因此该支持的实际效果边界无法从这份材料判断。

  • 变更模块:mtmd(多模态)
  • 新增支持:cohere2视觉模型
  • 对应PR:#30062

可获取的构建与平台

b11481提供了多平台预编译包。macOS/iOS方向包括Apple Silicon(arm64)、Intel(x64)以及iOS XCFramework;其中启用KleidiAI的macOS Apple Silicon构建被标注为DISABLED。

Linux方向包括Ubuntu x64/arm64/s390x的CPU构建,以及Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL FP32/FP16等后端,另有面向Snapdragon的arm64构建,覆盖CPU、Adreno GPU和Hexagon NPU。

Windows方向包括x64/arm64的CPU构建,以及CUDA 12、CUDA 13、Vulkan、OpenVINO、SYCL、ROCm 10.0和OpenCL Adreno等构建。Android方向提供arm64 CPU与Snapdragon构建。

此外还提供UI构建包。openEuler方向在该版本中标注为DISABLED,相关条目包括openEuler x86(310p、910b ACL Graph)和aarch64(310p、910b ACL Graph)。

  • macOS Apple Silicon(arm64)可用,但KleidiAI版本标注DISABLED
  • Linux覆盖CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL、Snapdragon
  • Windows覆盖CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、ROCm 10.0、OpenCL Adreno
  • Android提供arm64 CPU与Snapdragon版本
  • openEuler该版本标注DISABLED

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观