开源llama.cpp Releases·原文 2026年10月26日

llama.cpp发布b11881:让所有内存缓存遵循no_alloc

该版本合并PR #31087,改动为在全部内存缓存中尊重no_alloc标志,并留下将no_alloc移出llama_hparams的待办;提交说明中标注由DeepSeek-V4-Flash-Vision-Exp-GGUF在Mac Studio(M2 Ultra,192GB)上协助。

AI解读:提交说明显示改动分多次提交:前一次为在内存缓存中遵循no_alloc,后两次为同一待办——把no_alloc移出llama_hparams。

提交说明标注Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF(Mac Studio,M2 Ultra,192GB),即改动声明获得该模型在指定硬件上的协助。

发布页同步提供macOS、iOS、Linux、Android、Windows的预编译包,包含CPU、Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO、SYCL、Snapdragon等后端。

macOS Apple Silicon的KleidiAI启用版与openEuler相关构建在发布页标注为DISABLED。

llama.cpp发布构建版本b11881,唯一列出的代码变更为PR #31087「llama : respect no_alloc in all memory caches」,即在全部内存缓存中遵循no_alloc标志。

提交说明另含两条同一待办:将no_alloc移出llama_hparams,表明该参数目前仍位于llama_hparams结构内。

发布页按平台提供预编译二进制,覆盖macOS Apple Silicon/Intel、iOS XCFramework、Ubuntu(x64/arm64/s390x)、Android arm64、Windows(x64/arm64)以及Snapdragon的CPU、Adreno GPU、Hexagon NPU组合。

no_alloc改动与待办

PR #31087 的标题为「llama : respect no_alloc in all memory caches」,提交记录显示改动先从「在内存缓存中遵循no_alloc」开始,随后两次提交均为「TODO: move no_alloc out of llama_hparams」。

提交说明以Assisted-by字段标注dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF,括号内为Mac Studio、M2 Ultra、192GB。这是提交者对协助来源的声明。

  • 变更条目:respect no_alloc in all memory caches(#31087)
  • 待办:把no_alloc移出llama_hparams
  • 协助声明:DeepSeek-V4-Flash-Vision-Exp-GGUF,Mac Studio / M2 Ultra / 192GB

随版本提供的构建目标

发布附件按后端区分:Linux侧提供CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等Ubuntu x64包,以及Ubuntu arm64 CPU、Vulkan、CUDA 13.4与s390x CPU包。

Windows侧提供CPU、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0的x64包和arm64的CPU、OpenCL Adreno、CUDA 13.4、Vulkan包;Android提供arm64 CPU与Snapdragon组合包。

  • macOS Apple Silicon(arm64)与Intel(x64),另有iOS XCFramework
  • Ubuntu x64/arm64/s390x,含CUDA 12.8与 13.4、ROCm 10.0、OpenVINO、SYCL
  • Windows x64/arm64,含CUDA 12.4/13.4、Vulkan、SYCL、ROCm 10.0
  • macOS Apple Silicon KleidiAI启用版与openEuler构建标注为DISABLED

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观