该版本由Aaron Teo提交,在ggml-zdnn后端中引入Q8_0量化的矩阵乘法初始原型,并同步更新zdnn文档。同时发布macOS、Linux、Windows、Android等多平台预编译包。
阅读全文开源项目
关注开放的模型、工具与代码,找到值得动手的项目。
llama.cpp b11581移除冗余ggml_cont调用,CUDA unary kernel已可直接支持
该版本合并PR #30198,删除模型中不再需要的ggml_cont调用,并在qwen3next中恢复sigmoid前后的cont_2d;同时照例发布多平台二进制包。
阅读全文llama.cpp b11580发布:Hexagon后端扩展标量DMA广播支持二元运算
llama.cpp新版本b11580合并PR #30245,扩展Hexagon后端对标量DMA广播的支持,覆盖二元运算;同时提供macOS、Linux、Windows、Android及Snapdragon等多平台预编译包。
阅读全文llama.cpp发布b11577,修复vLLM多序列场景问题
llama.cpp新构建b11577的唯一代码改动是修复vLLM相关的d3多序列场景,并附带一条TODO;发布页同时提供多平台预编译二进制与UI包下载。
llama.cpp b11576修复无缓存注意力KV维度填充问题
该版本将no-cache注意力路径的掩码与K、V填充至 256,使head size为 512 的模型在CUDA上不再因长度不满足FATTN_KQ_STRIDE倍数而回退CPU,也避免 -fa auto探测(1 token)误关flash attention。
GitHub发文介绍四种让Copilot理解代码库的配置方式
GitHub官方博客在Copilot应用入门系列中列出仓库自定义指令、Agent技能、自定义Agent和MCP服务器四类做法,分别对应仓库约定、可复用流程、跨文件任务和外部工具连接。

llama.cpp发布b11574:优化Hexagon后端CPY/CONCAT,修复mdev随机挂起
llama.cpp发布b11574版本,合并PR #30341,针对高通Hexagon NPU后端的拷贝与拼接操作做第三轮优化,并修复多设备场景下的随机挂起问题。
llama.cpp发布b11573:Vulkan后端为f16累加改用打包FMA,移除dot product算子
该版本更新日志显示,Vulkan后端在f16累加路径上不再使用dot product算子,改为打包FMA;dot_product更名为dot_product_v2,并按每f16 FMA打包两行。发布页同时提供各平台预编译产物。
LangChain发布langchain-anthropic 1.7.6,模型配置中声明支持对话中途插入消息
该版本在model profiles中为中转对话能力增加声明,并刷新模型配置数据、升级langgraph-sdk与urllib3依赖。
LangChain发布langchain-openai 1.7.1:新增对话中途支持声明
此次更新在模型配置中声明了中途对话(mid-conversation)支持,涉及core、anthropic和openai三个模块。
llama.cpp发布b11572,新增vLLM d3模型支持
该版本提交说明称支持pplx-decider与vLLM d2/d3系列模型,并收紧命名规则与校验;同时发布覆盖macOS、Linux、Windows、Android的预编译包。
LangChain发布langchain-core 1.6.10,在模型配置中声明中途对话支持
该版本在core、Anthropic与OpenAI三处提交中新增“mid-conversation”能力声明字段,具体使用条件未在发布说明中展开。
llama.cpp b11567发布:推理中可报告计算图缓冲区重分配
llama.cpp新版本新增可选回调ggml_backend_sched_realloc_callback,用于在图缓冲区不足需重新预留时通知用户代码;llama_context已注册该回调,并在性能统计中输出两类重分配计数。
llama.cpp发布b11564:Vulkan后端用三元表达式规避CM2量化块大小的switch降低
llama.cpp的b11564版本包含一项针对Vulkan后端的改动,将CM2矩阵乘法的量化块大小处理从switch改为三元表达式;该版本同时提供多平台预编译包。
llama.cpp b11562修复 32 位平台Vulkan缓冲区日志
该版本把vk::Buffer流操作符移到共享头文件,使ggml-vulkan-debug.cpp在 32 位平台也能看到它,变更对应PR #30326。
llama.cpp b11560为Hexagon后端加入IM2COL_3D与DMA支持
llama.cpp发布b11560构建,变更日志显示本次提交为Hexagon后端新增IM2COL_3D支持及DMA路径,并重写hex-im2col内核;作者列为Max Krasnyansky,提交说明标注Assisted-by: OpenCode。
llama.cpp b11559发布:OpenCL后端为Gemma-4启用E4B/E2B GPU解码
该版本合并PR #30266,在OpenCL后端为Gemma-4启用E4B与E2B的GPU解码,并优化DK64 GQA8、DK128 GQA4解码;标题所述“允许dk512 for gemma-4”与发布说明中的具体条目存在出入。
OpenAI Python SDK发布v3.29.0:新增billing_not_active会话错误码与Live语音shida
该版本共包含 4 项功能变更和 5 项文档类杂项更新,日期为 2026 年 10 月 11 日,发布说明由openai-sdks机器人自动生成。
llama.cpp b11558修复OpenCL下Q4_K权重图像超限等问题
该版本针对OpenCL后端提交三项修复:Q4_K权重图像超过设备限制时回退、rms_norm避免不完整子组、修正q4_0广播并细化dense bin kernel启用条件,由Hongqiang Wang共同署名。
llama.cpp b11557将GGML_RPC_DEBUG改为数值日志级别并统一RPC日志出口
该版本把GGML_RPC_DEBUG从开关解析为 0–3 的详细度级别,并用共享log.h取代ggml-rpc.cpp与transport.cpp中重复的环境变量与宏代码。
llama.cpp b11556加入Prism Bonsai 2 27B运行时支持
llama.cpp发布b11556,新增对Prism Bonsai 2 27B模型的运行时支持,并同步更新模型转换器相关改动;发布说明由GitHub机器人整理,提交合作者包含项目作者Georgi Gerganov。
llama.cpp b11555发布:修复AVX2 CPU未在可用时启用F16C
该版本由llama.cpp项目通过GitHub Releases发布,发布说明中列出的唯一改动是修复AVX2 CPU在支持F16C时未使用该指令集的问题(PR #30270),同时提供各平台预编译包下载。
llama.cpp b11554发布:Vulkan后端用预扫描处理mul_mat_id重复ID
该版本将Vulkan的mul_mat_id重复ID处理从前置循环改为预扫描生成紧凑tile列表,官方说明称可收紧工作组数量上界、让尾部提前退出;同时照例放出多平台预编译包。
llama.cpp发布b11553:为server添加组件测试
该版本的主要变更是server增加组件测试(#30312),并补充codeowners;同时照例发布多平台预编译二进制包。
LiteLLM发布v1.104.3:向stable/1.104.x回移决策模型护栏等改动
该版本把决策模型护栏、decisions与Jev后续改动、UI决策自动路由设置回移到stable/1.104.x,并重建Admin UI包;发布说明同时列出cosign镜像签名校验方法。
LiteLLM发布v1.106.0-rc.1,修复MCP密钥转发并回移多项决策类功能
该候选版本在修复“不向MCP服务器转发调用方LiteLLM密钥”的同时,将Microsoft-Decision-1、决策模型Admin UI、System One请求表单等此前已合并到开发分支的改动回移到 1.106.0 候选分支。
Ollama v0.40.3-rc0暂停后台模型升级,修复Claude和Codex启动警告
该预发布版本移除了ollama launch claude和ollama launch codex的警告提示,并暂停了会给高并发请求增加开销的后台模型升级。
llama.cpp b11552修复服务端槽位占用时的上下文错乱问题
llama.cpp发布b11552版本,修复服务端在请求指定已占用id_slot时仍执行提示缓存更新、导致生成继续使用错误上下文的缺陷;现在繁忙槽位会原样返回,请求进入等待。
llama.cpp b11551发布:新增MiniCPM-V 4.7模型支持
该版本在mtmd中加入MiniCPM-V 4.7支持,并引入GGUF的rope.section_order元数据、处理网格布局及一项兼容性放行;作者为tc-mb,Sigbjørn Skjæret与Xuan Son Nguyen参与协作。
llama.cpp发布b11540:SYCL后端加速MXFP4 MoE推理
llama.cpp新构建b11540的发布说明显示,该版本通过SYCL后端为MXFP4量化的MoE模型加入算术解码与权重重排优化,相关改动为PR #29809,同时提供macOS、Linux、Windows、Android等多平台预编译包。