llama.cpp b11890发布:DeepSeek V4.1后续审查修复合入
该版本包含DeepSeek V4/V4.1的多项后续审查修复,涉及KV cache填充、Engram参数位置、矩阵乘法精度请求、模型转换逻辑与注释清理;发布页同时提供各平台预编译包。
AI解读:KV cache部分改用ggml_backend_tensor_copy重新填充DSV4的K mirrors。
Engram pad id被移入llama_hparams,token map被移入llama_model,saver不再需要deepseek41模型类。
DeepSeek41在HC mixes、router和indexer的matmul中移除了F32 src1请求;ggml中为仍使用log(1 + exp(x)) 的后端添加softplus TODO,并修复log1p相关TODO。
转换脚本方面,DSV4/DSV4.1的modify_tensors改为生成器,去掉冗余vision filter,DeepseekV4Model直接使用format_tensor_name。
发布页列出macOS、iOS、Linux、Android、Windows等平台的预编译包,其中macOS Apple Silicon的KleidiAI版本与openEuler构建标注为DISABLED。
llama.cpp发布b11890版本,提交标题为“deepseekv4.1: follow-up review fixes (#31137)”,由Georgi Gerganov共同署名,内容为DeepSeek V4/V4.1相关代码的后续审查修复。
发布页同时提供macOS、iOS、Linux、Android、Windows等平台的预编译包下载链接。
审查修复涉及的四类改动
提交说明按模块列出改动:kv-cache使用ggml_backend_tensor_copy重新填充DSV4的K mirrors;llama部分将Engram pad id移到llama_hparams、token map移到llama_model,使saver不再需要deepseek41模型类。
deepseek41部分移除HC mixes matmul上的F32 src1请求,也移除router和indexer matmuls上的F32 src1请求,并做了注释清理。
ggml部分为仍使用log(1 + exp(x)) 的后端添加softplus TODO;cont部分修复log1p的TODO。转换侧把DSV4/DSV4.1的modify_tensors改为生成器,去掉冗余vision filter,并让DeepseekV4Model直接使用format_tensor_name;另有一处标识符改名comp_kv_src为comp_il_src。
预编译包与禁用项
发布页按平台列出可下载构建:macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework;Ubuntu的x64/arm64/s390x CPU版本,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16版本;Linux arm64 Snapdragon版本;Android arm64的CPU与Snapdragon版本;Windows的CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm版本;另有UI包。
页面标注macOS Apple Silicon的KleidiAI启用构建为DISABLED,对应PR 23780;openEuler构建同样标注为DISABLED,对应PR 23705,其下游条目(x86/aarch64的 310p与 910b ACL Graph)因此未提供下载。