llama.cpp发布b11881:让所有内存缓存遵循no_alloc
该版本合并PR #31087,改动为在全部内存缓存中尊重no_alloc标志,并留下将no_alloc移出llama_hparams的待办;提交说明中标注由DeepSeek-V4-Flash-Vision-Exp-GGUF在Mac Studio(M2 Ultra,192GB)上协助。
AI解读:提交说明显示改动分多次提交:前一次为在内存缓存中遵循no_alloc,后两次为同一待办——把no_alloc移出llama_hparams。
提交说明标注Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF(Mac Studio,M2 Ultra,192GB),即改动声明获得该模型在指定硬件上的协助。
发布页同步提供macOS、iOS、Linux、Android、Windows的预编译包,包含CPU、Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO、SYCL、Snapdragon等后端。
macOS Apple Silicon的KleidiAI启用版与openEuler相关构建在发布页标注为DISABLED。
llama.cpp发布构建版本b11881,唯一列出的代码变更为PR #31087「llama : respect no_alloc in all memory caches」,即在全部内存缓存中遵循no_alloc标志。
提交说明另含两条同一待办:将no_alloc移出llama_hparams,表明该参数目前仍位于llama_hparams结构内。
发布页按平台提供预编译二进制,覆盖macOS Apple Silicon/Intel、iOS XCFramework、Ubuntu(x64/arm64/s390x)、Android arm64、Windows(x64/arm64)以及Snapdragon的CPU、Adreno GPU、Hexagon NPU组合。
no_alloc改动与待办
PR #31087 的标题为「llama : respect no_alloc in all memory caches」,提交记录显示改动先从「在内存缓存中遵循no_alloc」开始,随后两次提交均为「TODO: move no_alloc out of llama_hparams」。
提交说明以Assisted-by字段标注dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF,括号内为Mac Studio、M2 Ultra、192GB。这是提交者对协助来源的声明。
- 变更条目:respect no_alloc in all memory caches(#31087)
- 待办:把no_alloc移出llama_hparams
- 协助声明:DeepSeek-V4-Flash-Vision-Exp-GGUF,Mac Studio / M2 Ultra / 192GB
随版本提供的构建目标
发布附件按后端区分:Linux侧提供CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等Ubuntu x64包,以及Ubuntu arm64 CPU、Vulkan、CUDA 13.4与s390x CPU包。
Windows侧提供CPU、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0的x64包和arm64的CPU、OpenCL Adreno、CUDA 13.4、Vulkan包;Android提供arm64 CPU与Snapdragon组合包。
- macOS Apple Silicon(arm64)与Intel(x64),另有iOS XCFramework
- Ubuntu x64/arm64/s390x,含CUDA 12.8与 13.4、ROCm 10.0、OpenVINO、SYCL
- Windows x64/arm64,含CUDA 12.4/13.4、Vulkan、SYCL、ROCm 10.0
- macOS Apple Silicon KleidiAI启用版与openEuler构建标注为DISABLED