开源llama.cpp Releases·原文 2026年10月21日

llama.cpp b11778发布:新增对Nemotron-3(.5)-Embed模型的支持

llama.cpp发布构建版本b11778,变更说明仅一条:支持Nemotron-3(.5)-Embed(PR #30877),同时提供macOS、Linux、Windows、Android等平台的预编译包。

AI解读:这条发布说明只列出了一项代码变更:新增对Nemotron-3(.5)-Embed模型的支持,对应PR #30877。发布页没有给出该模型在llama.cpp中的速度、内存占用或精度数据。

Nemotron-3(.5)-Embed从名称看属于嵌入(Embedding)模型,而llama.cpp的发布说明没有说明这一支持覆盖哪些具体任务或接口;因此读者能确认的是“模型加载支持”这一层,不能据此推断检索、聚类等下游效果。

预编译包覆盖macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu(CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL)、Windows、Android arm64以及Snapdragon的CPU、Adreno GPU、Hexagon NPU组合。openEuler相关构建在发布页标注为DISABLED。

发布页由github-actions[bot] 生成,属于项目自动发布的版本记录,不是独立测评。想确认Nemotron-3(.5)-Embed的实际可用性,需要自行用对应平台的构建包加载模型验证。

llama.cpp发布构建版本b11778,发布说明中的代码变更为“model : support Nemotron-3(.5)-Embed”(PR #30877),即新增对该嵌入模型的支持。

该版本按惯例提供多平台预编译包,发布页未附模型效果、性能或兼容性测试数据。

b11778的变更与可用构建

发布说明只列出一条功能变更:支持Nemotron-3(.5)-Embed模型,关联PR编号 #30877。除此之外没有其他代码改动说明。

预编译产物覆盖macOS(Apple Silicon arm64、Intel x64)、iOS XCFramework、Ubuntu(x64、arm64、s390x的CPU包,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16包)、Linux arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)、Android arm64(含Snapdragon组合包)、Windows(CPU、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0,含arm64的CPU、OpenCL Adreno、CUDA 13和Vulkan包)以及UI包。

发布页中macOS Apple Silicon的KleidiAI版本与openEuler各构建标注为DISABLED,并分别链接到PR #23780 和PR #23705。

  • 变更条目:model : support Nemotron-3(.5)-Embed (#30877)
  • macOS:Apple Silicon arm64、Intel x64、iOS XCFramework
  • Linux:Ubuntu x64/arm64/s390x CPU,及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL构建
  • 移动端:Android arm64,Linux arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)
  • Windows:CPU、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0
  • 标注DISABLED:macOS KleidiAI版本、openEuler构建

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观