开源llama.cpp Releases·原文 2026年9月28日

llama.cpp发布b11225:为回滚、保存加载与分片状态恢复测试补上ggml初始化

该版本的核心改动是修复ggml初始化问题,覆盖test-recurrent-state-rollback、test-save-load-state和test-state-restore-fragmented三个测试;多平台预编译包同步发布。

AI解读:llama.cpp发布了b11225版本,这次改动的正事只有一件:给几个状态相关的测试补上ggml初始化。改动覆盖test-recurrent-state-rollback、test-save-load-state,以及test-state-restore-fragmented,PR编号 #29554。

为什么值得单独发一版?因为这类测试一旦ggml没初始化,跑起来的结果就不可信,回滚、保存加载、分片状态恢复这几个功能恰恰是长对话或多轮推理里容易出问题的地方。测试先对了,开发者和下游项目才敢拿它当回归基准。

普通用户不需要做任何操作;如果你在用CI跑llama.cpp测试,或者依赖这些状态恢复能力,b11225的产物和测试修复已经一起放出来了。分片状态恢复的用例还留了TODO,说明这部分测试覆盖不算完整。

另一个可见变化是发布包的覆盖面:macOS、iOS、Linux、Android、Windows以及openEuler都有对应构建,其中macOS的KleidiAI版本和openEuler仍处于DISABLED状态。

llama.cpp发布b11225,主要改动是修复测试中的ggml初始化问题,对应PR #29554。

改动内容包括:为test-recurrent-state-rollback初始化ggml;对test-save-load-state做同样处理;并为test-state-restore-fragmented补充初始化,同时留下TODO。

该版本同步发布各平台预编译包:macOS Apple Silicon(arm64)、macOS Intel(x64)、iOS XCFramework;Ubuntu x64/arm64/s390x CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16;Linux arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU);Android arm64(CPU及Snapdragon版本);Windows x64/arm64的CPU、OpenCL Adreno、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0;以及UI包。

其中macOS Apple Silicon的KleidiAI版本处于DISABLED状态,openEuler平台整体也标记为DISABLED。

这些测试针对的是循环状态回滚、状态保存与加载、分片状态恢复三块功能,本次修复只涉及测试侧的ggml初始化,未说明对运行时行为有其他更改。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观