该版本把测试对内部libllama符号的依赖改为通过llama-ext.h中的llama_arch_* 包装接口,并将四个测试移出“非Win32或非共享库”的构建限制。
阅读全文开源项目
关注开放的模型、工具与代码,找到值得动手的项目。
llama.cpp发布b11896,修复WebGPU memset竞态问题
llama.cpp版本b11896的变更说明只有一条:CI修复webgpu memset的竞态(#31162)。发布页同时列出macOS、Linux、Windows、Android等平台的预编译包,部分后端与平台标记为DISABLED。
阅读全文llama.cpp发布b11895,修复Metal后端大矩阵输出偏移溢出
该版本的主要变更是阻止Metal后端在大矩阵输出偏移处发生溢出,并拓宽batch偏移与MUL_MAT_ID的token索引;发布说明同时列出了macOS/iOS、Linux、Android、Windows等平台及各计算后端的预编译包。
阅读全文llama.cpp b11890发布:DeepSeek V4.1后续审查修复合入
该版本包含DeepSeek V4/V4.1的多项后续审查修复,涉及KV cache填充、Engram参数位置、矩阵乘法精度请求、模型转换逻辑与注释清理;发布页同时提供各平台预编译包。
llama.cpp发布b11889:CUDA后端改用std::string处理archName
该版本唯一合并的改动来自PR #30463,把CUDA代码中用于存放架构名称的C风格变长数组换成std::string,以消除Clang的 -Wvla-cxx-extension警告。发布页同时提供macOS、Linux、Windows、Android等平台的预编译包。
llama.cpp b11888修复长token在语法约束下总被拒的问题,并加速语法采样
该版本把语法采样中候选拒绝的递归改为自带层级栈的循环:长度超过 256 字符的token(如GLM-4.7-Flash的 512 空格token和Laguna-S-2.1的长空格token)不再因深度上限被一律拒绝,生成的掩码与master一致;提交说明称在GLM-4.7、Laguna、Qwen3.6、gemma-4上配合json、list、spaces语法采样快于master。以上为提交说明中的说法。
llama.cpp发布b11887:调整test-llama-context默认线程数
llama.cpp的b11887版本发布说明显示,本次唯一列出的改动是调整test-llama-context的默认线程数(#31157),同时照例提供多平台预编译包。
llama.cpp发布b11886:Qwen转换时合并张量
llama.cpp构建版本b11886的更新说明显示,本次提交为“qwen: merge tensors on convert”,并包含转换脚本改用生成器函数、qwen4exp移除常量与预缩放等改动。
llama.cpp发布b11884,修复dry sequence breaker导致的CPU与内存耗尽
该项目在GitHub发布说明中称,此次更新修复由dry sequence breaker引起的CPU和内存耗尽问题,对应PR #31035;同一版本仍按原有平台矩阵提供预编译包。
llama.cpp b11882限制语法解析递归深度,防止栈溢出
该版本合并修复 #29495、#29755:为语法(grammar)递归设定深度上限,避免栈溢出;发布页同时列出macOS、Linux、Windows、Android等多平台预编译包。
llama.cpp发布b11881:让所有内存缓存遵循no_alloc
该版本合并PR #31087,改动为在全部内存缓存中尊重no_alloc标志,并留下将no_alloc移出llama_hparams的待办;提交说明中标注由DeepSeek-V4-Flash-Vision-Exp-GGUF在Mac Studio(M2 Ultra,192GB)上协助。
llama.cpp b11880发布:合并GGUF时拒绝截断的张量数据
llama.cpp发布b11880版本,变更记录为在工具中拒绝截断的GGUF张量数据(#31044),由Shreya Agrawal参与提交;同版本继续提供各平台预编译包。
llama.cpp b11879:CUDA在MMQ中融合FFN gate/up矩阵乘与GLU
该版本针对prompt处理阶段,把稠密FFN的gate与up两次matmul合并为一次mul_mat_q启动,并在写回时计算GLU;适用于NVIDIA Turing及更新架构上的Q4_K、Q5_K、Q6_K、Q8_0和IQ4_XS。
llama.cpp发布b11878:在ggml-cuda中融合Qwen MRoPE与set-rows
该版本由仓库自动发布,合并了PR #31025,变更范围限于CUDA后端的Qwen多模态位置编码与set-rows操作;发布页未给出性能数据。
llama.cpp b11877为Vulkan后端conv3d增加更大tile size,仅限coopmat2
llama.cpp发布b11877构建,其中Vulkan后端为conv3d新增更大tile size,该改动仅适用于coopmat2,且只在新版驱动上启用;同时补充了若干代表性后端测试。
llama.cpp b11876修复Vulkan小矩阵乘法子组划分错误
该版本修改了Vulkan后端小矩阵乘法瓦片的WM推导方式,使每个子组对应一个warp瓦片;提交者称在Pixel 9上测试后,此前 20 个MUL_MAT和 6 个MUL_MAT_ID失败全部通过。
llama.cpp b11874为OpenCL后端加入topk与lightning indexer
该版本提交标题显示,topk与lightning indexer均针对OpenCL后端,并包含对topk、tiled topk kernel与lightning indexer的优化和重构;发布页同时列出各平台预编译包。
r/opensource新版规禁止AI相关项目与非英语成员发帖
该版版主称,使用AI、由AI生成或面向AI的项目不再受欢迎,同时要求提交项目至少有一年历史、有活跃维护和多名贡献者;版主Wolvereness表示会有例外(如无障碍功能中的自动字幕)。

LiteLLM v1.106.4修复代理启动时ImportError退出问题
该版本共含 3 个PR、2 项修复:一是代理在无法访问远程模型成本表时启动报ImportError并退出,该问题自v1.104.0引入;二是清理镜像扫描标记的brotli 1.2.0、emSign ECC Root CA - G3及未使用的lockfile包。发布说明称升级无需额外操作。
LiteLLM v1.105.5修复代理启动ImportError与镜像扫描告警
该版本包含 2 个PR、2 项修复,发布说明称升级无需额外操作;代理无法访问远程模型成本地图时的启动失败问题可追溯至v1.104.0。
LiteLLM发布v1.103.9,修复镜像扫描对brotli、emSign证书和锁文件的误报
该版本只合入 1 个PR,发布说明称用户无需采取升级操作;受影响的是镜像安全扫描结果,而非模型调用或API功能。
Open WebUI发布v0.12.4:可按需加载技能,上下文压缩在聊天中可见
该版本新增管理员可开启的“Load selected skills on demand”技能按需加载,并把上下文压缩标记、进度和错误直接显示在聊天里;压缩还扩展到临时聊天和短聊天,以解决后续追问或重新生成时的上下文超长报错。
南京大学与商汤开源OpenMobile-2手机智能体,重建110多个应用训练环境
研究团队基于Qwen3.5和Qwen3.6发布90亿与270亿参数两个智能体模型,并公开训练环境、数据和复现说明;作者称其在真实安卓设备测试中取得开源模型最高分。

llama.cpp b11870加入DeepSeek-V4.1-Flash模型支持
llama.cpp发布b11870版本,合并PR #31086,新增deepseek41模型实现;发布说明列出多项内核与缓存改动,并将deepseek41纳入Metal融合基线测试。
llama.cpp发布b11869,修复Jinja中select与selectattr的参数处理
llama.cpp新版本b11869的主要代码改动是修复Jinja模板中select与selectattr的参数处理,并按评审意见调整、简化测试属性;该版本同时提供macOS、Linux、Windows、Android等多平台预编译包。
llama.cpp发布b11868:为多核HMX flash attention加入KV-head team split
该版本在Hexagon后端将FA_HEAD_SPLIT与FA_SPLIT合并为单一环境变量GGML_HEXAGON_FA_SPLIT,取值 0 为仅token-split,取 1 时启用head-split,并在满足n_kv_heads条件时叠加team-split。发布页同时列出各平台构建包。
llama.cpp发布b11867,重构server入口
llama.cpp发布版本b11867,主要变更是重构server入口(#31113)。发布页未提供性能或行为收益的说明。
llama.cpp发布b11865:RPC模块在rdma_recv中增加边界检查
该版本由llama.cpp仓库构建机器人发布,变更记录只有一条:为RPC的rdma_recv增加边界检查(#30399),同时照例提供各平台预编译包。
llama.cpp发布b11860,修复大n_batch下的test-llama-context
该版本发布说明中的变更条目只有一项:修复test-llama-context在大n_batch情况下的测试问题(#31083),同时按惯例提供各平台预编译包。
llama.cpp b11858禁止在含MoE amax缩放的架构上使用 -sm tensor
该版本删除了Meta split-state的MIRRORED处置方式,并对构建amax计算图的架构拒绝 -sm tensor参数;原因是amax的POOL_1D归约跨整个矩阵行,按axis-0切分后单设备无法算出完整结果。