该版本较 1.7.7 包含一项版本发布提交和两项修复:从压缩块中移除index,以及处理为空的缓存创建token计数。
阅读全文开源项目
关注开放的模型、工具与代码,找到值得动手的项目。
llama.cpp发布b12040,测试代码合并相同if分支
该版本由仓库机器人github-actions[bot] 发布,变更说明仅写明测试代码中合并了相同的if分支(#31523);构建产物覆盖macOS、iOS、Linux、Android、Windows多平台与多种加速后端。
阅读全文llama.cpp发布b12038,修复clang-cl配合AVX512 BF16的构建问题
该版本由llama.cpp的GitHub Releases页面发布,变更说明只有一项:修正使用clang-cl编译器并启用AVX512 BF16时的ggml构建错误,具体做法包括按条件包含immintrin.h、为clang-cl补充显式向量转换。
阅读全文vLLM v0.33.0发布:CUDA 12.9制品停止发布,默认改用CUDA 13.0
该版本包含来自 389 名贡献者的 927 次提交,新增Reflection Beam-1.0等模型支持,并升级至PyTorch 2.14;发布说明称CUDA 12.9的wheel和镜像不再发布。
llama.cpp b12034修复WebGPU显存分配非单调导致的CI中止
该版本合并PR #31422,让WebGPU后端在flash attention与MMVQ路径下按行数为scratch区域分配显存,使分配尺寸随批长度单调,从而避免GGML_SCHED_NO_REALLOC构建因意外重分配而中止。
小米开源AI桌宠HachimoDock:自制成本约150元,可语音指挥Agent与控制智能家居
量子位报道称,小米内部创新团队孵化的开源AI硬件HachimoDock(哈基米机)已在GitHub公开软件源码,并在嘉立创提供硬件物料清单、结构件模型及装配教程;硬件自制成本约150元,开发板和屏幕等元器件因热度出现涨价和缺货。
openai-python发布v3.42.1,修复Responses WebSocket连接行为
该补丁版本于 2026 年 11 月 1 日发布,含两项Bug Fixes和一项WebSocket相关重构,由自动化账号openai-sdks[bot] 在GitHub Releases页面公布。
llama.cpp发布b12032:SYCL后端改用PkgConfig查找LevelZero头文件与库
该版本唯一列出的代码变更是SYCL构建时尝试通过PkgConfig定位LevelZero的include路径和链接库(PR #31076);发布页同时提供macOS、Linux、Windows、Android等多平台预编译包。
llama.cpp b12030修复Hexagon DMA大跨距传输截断问题
llama.cpp发布b12030版本,修复了Hexagon后端在v75+硬件上处理 16 MB及以上跨距时DMA地址被截断的问题,改为逐行传输回退,并新增两个跨距超 16 MB的CONT测试。
llama.cpp b12028发布:测试套件启用Gemma 4并改用GQA
llama.cpp发布b12028构建,变更内容为在test-llama-archs中启用Gemma 4,并将该模型在该测试中的分组查询注意力配置改为GQA(PR #31401)。同步提供各平台预编译包。
llama.cpp b12027为LFM3启用张量拆分
该版本发布说明仅列出一项改动:在llama.cpp中为LFM3模型启用tensor split(张量拆分)。同一发布页还提供macOS、Linux、Windows、Android等平台及多种后端(CUDA、Vulkan、ROCm、SYCL、OpenVINO等)的预编译包。
TypeSafe AI联合Treg开源找人工具:单条邮箱最低0.0089美元,称比Clay便宜超85%
Jev母公司TypeSafe AI与Agent工具平台Treg开源一款面向Agent的人员查找工具,按次计费,最低0.0089美元查一条邮箱、未找到不收费;Treg称在292人测试中找对邮箱数比Clay少2个,总花费为1.49美元对10.34美元。
llama.cpp发布b12024:调整lfm sc的多模态张量由 3D改为 2D
该版本构建号b12024,发布说明仅一行:把lfm sc的多模态(mm)计算改为在 2D而非 3D张量上进行(PR #30831),其余内容为各平台预编译包列表。
llama.cpp b12023修复server共享决策前缀问题,多项后端构建同步更新
llama.cpp发布b12023版本,server端将共享决策前缀限制在父任务和每个子任务的第一个必需输出位置,以修复问题 #30482;发布页同时提供macOS、Linux、Windows、Android等多平台预编译包。
llama.cpp发布b12022:修复 /v1/responses端点接收extra_params
llama.cpp版本b12022的变更说明只有一条:server修复 /v1/responses端点,使其接受extra_params(PR #30959)。发布页同时列出macOS、Linux、Windows、Android等平台构建包。
llama.cpp发布b12021:Gemma 4图像改为无黑边缩放
该版本mtmd组件的一项改动是:缩放Gemma 4输入图像时不再使用letterbox填充;发布页同时列出各平台预编译包,其中macOS的KleidiAI加速构建与openEuler构建仍处于禁用状态。
DeepSeek公开Super-agent架构:双层路由、投机执行,并放出原型代码
量子位报道,DeepSeek发布面向工程实践的Agent架构文章《Super-agent:迈向更自主的Agent系统》,并公开dsh-superagent-prototype原型代码。团队称在约300条消息、20项工作请求的模拟环境中,Super-agent任务完成时间中位数为12.4分钟,传统单Session方案95分位数为29.5分钟。
llama.cpp发布b12020,OpenCL后端新增FWHT支持
该版本由自动构建账号发布,代码变更项为“opencl: add fwht”(#31434),由Li He共同署名;发布页同时提供macOS、iOS、Linux、Android、Windows等多平台预编译包。
llama.cpp b12019修复Qwen3-Coder在reasoning_format none下think块未剥离问题
llama.cpp发布b12019构建版本,聊天功能提交 #31380 让Qwen3-Coder在reasoning_format设为none时也能识别并剥离think块;提交说明中列有Claude Opus 5.5作为辅助。
llama.cpp发布b12018,修复SYCL后端f32转q2_0/q4_0/q5_0的CPY舍入
该版本由llama.cpp的GitHub Releases页面发布,变更说明仅一行:在CPY操作中修正f32到q2_0、q4_0、q5_0的舍入(PR #31120),同时附上多平台预编译包。
gemini-cli发布 10 月 31 日nightly构建,集中修复core与cli七项问题
该nightly标签v0.67.0-nightly.20261031.g6814e00d6由仓库机器人发布,变更清单包含 7 个修复提交,涉及Git忽略规则、SSE流缓冲、Windows文件读取、扩展安装锁与模型选择保持等。
Claude Code v2.1.316发布:新增多项环境变量与网关预算、策略配置
Anthropic在GitHub发布Claude Code v2.1.316,新增关闭ultrathink、设置子代理努力程度等开关,为Claude apps gateway加入共享月度预算与层叠策略模式,并宣布Opus 4.8快速模式将在 2026 年 11 月 30 日移除。
OpenAI Python SDK发布v3.42.0,新增智能体上下文压缩与时间感知等API
该版本于 2026 年 10 月 31 日发布,共列出 10 项Features和 1 项Bug Fix,涉及智能体会话、WebSocket、图像编辑和SIP电话等接口。
英伟达员工用Nemotron开源模型搭万圣节“暴躁海盗船”互动装置
一篇发布在Hugging Face的英伟达博客介绍了MonsterHouse:一个会听、会回话、会用低沉海盗腔抱怨的万圣节互动投影装置,整套系统跑在一台工作站上,所用模型均已公开。博客作者自述是英伟达员工,并在Bolt E4B公开发布前测试过该模型。
llama.cpp发布b12015,删除common中的fs_path_to_utf8()
该项目在GitHub发布的b12015版本说明中列出的主要代码变更是删除common模块里的fs_path_to_utf8() 函数,提交由Adrien Gallouët署名,对应PR #31423。
llama.cpp b12014移除Windows参数重建逻辑,修复 #26416
llama.cpp发布b12014构建,common组件删除了Windows下的argv重建代码;提交说明称 #31329 引入的manifest已使argv为UTF-8,因此不再需要重建,修复 #26416。
llama.cpp发布b12012:将cpp-httplib升级至 0.64.0
该版本发布说明列出的唯一代码改动是把内置HTTP库cpp-httplib更新到 0.64.0(PR #31400),同时照常提供各平台预编译包。
llama.cpp b12008修正Gemma模型加载顺序,CPU模式显存占用降约 216 MiB
llama.cpp发布b12008版本,调整gemma3n与gemma4的token_embd创建顺序,避免输入输出共享缓冲区类型时重复持有词嵌入表;官方给出gemma-4-E2B-it Q4_K_M在纯CPU、无mmap下模型缓冲区从 3163.73 MiB降至 2947.73 MiB。
llama.cpp b12007将KV-cache旋转常量保留在GPU上
llama.cpp发布b12007版本,合并 #31073:把KV-cache的旋转常量常驻GPU,并加入分层旋转缓冲,mistral-large4与dflash改用分层旋转;提交记录称多设备旋转仍有后续工作。
llama.cpp b12005为OpenCL后端加入q2_0量化初步支持
该版本在OpenCL后端新增q2_0的AOS/SOA移动、tiled mm、面向Adreno的noshuffle gemm/gemv与dp4a路径,并优化Adreno上q2_0的decode与窄批次;改动以PR #31340 合入。