llama.cpp发布b11740构建版本,唯一列出的代码变更是OpenCL后端支持i32类型的GET_ROWS以及i32、f32的拷贝转换(PR #30756)。
阅读全文开源项目
关注开放的模型、工具与代码,找到值得动手的项目。
GitHub说明如何将Copilot应用会话连同上下文转入VS Code
GitHub官方博客给出七步流程:在Copilot应用中选择“Open in VS Code”后,VS Code会打开该会话的工作树,并在侧边栏载入原任务、计划和对话;在编辑器里改完后,推送分支即更新该会话关联的拉取请求。
阅读全文llama.cpp b11739发布:Jinja模板新增unique过滤器
llama.cpp发布b11739版本,唯一一项代码变更是在Jinja模板引擎中实现unique过滤器(PR #30819);同一版本照常提供macOS、Linux、Windows、Android等平台的预编译包。
阅读全文Hugging Face发布Transformers v5.20.2补丁版,修复generate中多模态输入类型丢失问题
该版本由Cyrilvallez发布,共包含 4 个提交,涉及generate输入字典类型转换、bfloat16下专家梯度、VLM输入模态声明以及eager_mask的主机到设备拷贝。
llama.cpp发布b11738,修复server的SWA检查点失效逻辑
该版本合并了PR #30666,修正server端SWA检查点失效判断,并新增一个在n_past条件下失败、在n_prefix条件下通过的测试用例。发布页同时提供各平台预编译包下载。
llama.cpp发布b11734:重构CANN后端 #ifdef块,移除return后不可达代码
该版本构建编号为b11734,变更内容为CANN后端中 #ifdef条件编译块的重构,目标是不让return语句之后残留不可达代码(PR #25273)。发布页同时列出各平台预编译包。
llama.cpp发布b11732构建,仅修复CUDA多余分号警告
llama.cpp发布b11732版本,更新日志中唯一列出的改动是修复CUDA代码中不存在的多余分号所触发的警告(#30774),未涉及模型推理逻辑或性能变化。
llama.cpp b11731发布:ggml-cpu对SiLU与expf做向量化
llama.cpp发布b11731版本,唯一列出的代码变更是ggml-cpu中ggml_v_silu和ggml_v_expf的向量化(#30791),作者署名Aaron Teo;仓库同步提供多平台预编译包。
llama.cpp b11729增加Qwen3双向注意力与dense_2输出投影支持
该版本在Qwen3中支持双向注意力和dense_2输出投影,转换脚本同步读取use_bidirectional_attention字段;发布说明未给出性能数据。
llama.cpp b11727修复gguf-split与export-lora截断数据静默损坏问题
项目方在PR #30497 中称,输入GGUF文件被截断时gguf-split可能静默产出损坏的张量数据;本次在gguf-split.cpp与export-lora.cpp加入张量数据边界检查和短读检查,并新增回归测试。
谷歌开源Harness层RSI新成果,作者团队华人居多
据量子位报道,谷歌开源了一项与Harness层RSI有关的新成果,文章称参与作者中“华人浓度爆表”。报道没有给出具体模型名、测试数据或使用方式。
SGLang v0.5.22发布:950 个PR,新增DeepSeek-V4.1等一批模型支持
SGLang发布v0.5.22,含 245 名贡献者的 950 个PR,新增Clef、PPLX-Decider、HunyuanImage-3.0-Instruct等模型支持,并称DeepSeek-V4.1在H200上每GPU吞吐最高提升 2.3 倍;升级后需Python 3.11或更高版本。
llama.cpp发布b11723:改进Hexagon后端FLASH_ATTN_EXT,支持长上下文与SWA模型
llama.cpp新版本b11723包含一项Hexagon后端的FLASH_ATTN_EXT改进,据提交说明可减少DMA取数、调整hmx与hvx的切换阈值,并更新hmx门控以计入mdev.count。
Hugging Face推出TorchNeuron后端,Trainium原生支持Transformers与Diffusers
Hugging Face称TorchNeuron把Neuron作为原生PyTorch设备暴露,Transformers、Diffusers、Accelerate、PEFT、TRL可直接在AWS Trainium上运行;公共测试版自 2026 年 10 月 20 日起提供,可用pip install torch-neuronx安装。
Claude Code发布v2.1.303:仅含缺陷修复与可靠性改进
GitHub发布页显示,该版本没有新功能说明,更新内容为缺陷修复和可靠性改进,发布者为ashwin-ant。
ComfyUI发布v0.42.0:新增Krea 3图像节点与MOSS-image支持
本次更新还加入Qwen 3.x性能改进、ARM Linux测试支持,并修复摄像头节点与文本生成清理等问题。
llama.cpp b11721为CUDA后端合并Qwen4exp四段门控链
该项目发布说明称,CUDA后端把SCALE→SIGMOID→SCALE→hc_post四步合并为一个kernel,做法移植自Vulkan的HC_POST_GATE融合(#29520),对应PR #30602。
llama.cpp b11720为ggml的SUM运算加入非连续张量支持,覆盖CPU、CUDA、Vulkan、WebGPU
该版本对应的PR #28851 在CPU与CUDA上实现非连续SUM,并为CPU、CUDA、Vulkan、WebGPU补充非连续场景测试;发布页同时列出各平台预编译包。
VAST开源实时世界模型EdenLive:单张RTX 5090上 720P超过 24FPS
VAST称EdenLive首次在实时生成前提下同时实现任意参考输入、任意画风生成和长时连续运行;模型权重、推理代码、技术报告与端到端Demo已同步开放。
llama.cpp发布b11719:CUDA注意力内核调整越界检查条件
该版本提交说明称,在k_VKQ_max = (k_VKQ_max - nbatch_fa) 时,ggml-cuda的fattn不再检查越界(oob),对应PR #30572。
LiteLLM发布v1.107.0-rc.1,MCP新增agent默认拒绝访问选项
BerriAI的LiteLLM仓库发布v1.107.0-rc.1候选版本,更新日志列出多项MCP、代理、计费与SDK修复,并新增agent_access_default_deny等特性;发布说明同时给出用cosign校验Docker镜像签名的方式。
vLLM v0.32.0发布:新增 /v1/systemone结构化决策端点,MRV2在ROCm上成为默认
该版本包含 363 名贡献者的 814 次提交,其中 121 人为新贡献者。发布说明列出结构化决策端点、通用hf工具与推理解析器、低精度KV cache扩展以及多项破坏性变更。
LiteLLM v1.106.0发布:stdio MCP服务器默认禁用,新增一键Docker快速启动
LiteLLM发布v1.106.0,发布说明中的破坏性变更是默认关闭stdio类型的MCP服务器;同时新增启动网关、Postgres与管理界面的单命令Docker快速启动,并为Jev兼容供应商提供统一的 /v1/decisions端点。
llama.cpp b11718在FFN路径恢复ESIMD内核并扩展Q8_0融合
该版本由贡献者Todd Malsbary提交,重新启用FFN路径上的ESIMD,并将ESIMD融合范围扩展到Q8_0;同时移除test-backend-ops中明确提及ESIMD的注释。
llama.cpp b11717为Hexagon后端加入Hadamard与Q1_0/Q2_0行读取支持
该版本在Hexagon上支持hadamard MUL_MAT,并为flat和tiled Q1_0、Q2_0增加GET_ROWS;同时减少了q8_1量化器与vec_dot_q1的数据包数量。
openai-python发布 3.35.1,修复websockets 13下Realtime字节读取问题
OpenAI Python SDK于 2026 年 10 月 18 日发布补丁版本 3.35.1,唯一变更是修复beta Realtime在websockets 13上的字节读取,对应PR #4102。
Ollama发布v0.40.7-rc0:调整OpenAI兼容层与推测解码、新增PPLX Decider v1.2支持
该候选版本包含三项改动:允许非思考模型使用Responses的effort参数;让llama-server自行推断草稿推测类型;在MLX后端加入PPLX Decider v1.2支持。
openai-python发布v3.35.0:新增Live侧带类型化事件与Agents极速服务档
OpenAI Python SDK 3.35.0于 2026-10-17 发布,包含两项API新特性和一项realtime修复:新增类型化的Live sideband事件、为Agents增加ultrafast服务档,并在websockets 13下保留字节接收。
llama.cpp b11716为Hexagon NPU增加Q1_0和Q2_0量化支持
该版本由llama.cpp仓库的github-actions[bot] 发布,提交说明显示Hexagon后端新增Q1_0、Q2_0两种量化格式支持,并包含HMX矩阵乘路径、分块与向量点积的相应调整。
OpenAI Python SDK发布v3.34.0,新增Realtime翻译WebSocket会话
该版本由发布机器人openai-sdks[bot] 于 2026 年 10 月 17 日发布,包含两项API功能更新,分别是外部存储降级状态和Realtime翻译WebSocket会话。