llama.cpp b11934发布:测试中张量数据生成与模型保存提速
该版本合并PR #31145,重构save_models以仅创建模型、不再创建保存时不需要的llama_context,并改用splitmix64+Box-Muller生成正态分布随机数;保存日志会输出每个模型的文件大小。
AI解读:llama.cpp发布b11934版本,主要变更来自PR #31145,主题是加快测试中的张量数据生成和模型保存。
变更之一是将save_models重构为只创建模型,不再创建保存过程中不需要的llama_context。
保存模型后会记录产物文件大小,以字节和MB报告,并将模型名、目标与大小合并为每个已保存模型一行日志。
该版本同时提供macOS/iOS、Linux、Android、Windows等多平台预编译包;openEuler与启用KleidiAI的macOS Apple Silicon构建标注为DISABLED。
llama.cpp发布b11934版本,合并PR #31145,改动集中在测试环节:加快张量数据生成与模型保存。
提交说明称,save_models被重构为只创建模型,不再创建保存时不需要的llama_context;随机数生成从较慢的std::normal_distribution抽取改为splitmix64加Box-Muller生成器。之后又改为用std::mt19937和std::normal_distribution一次性生成正态抽样池,每个张量复制一段循环切片,按名称选切片以保持抽样确定性。
保存后会记录产物文件大小(字节和MB),每个已保存模型的模型名、目标与大小合并为一行日志。上述改动由提交信息中的Assisted-by标注为DeepSeek-V4-Flash-Vision-Exp-GGUF(Mac Studio,M2 Ultra,192GB)协助。
发布物覆盖的平台
b11934的发布页列出macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu(CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL FP32/FP16)、Linux arm64骁龙(CPU、Adreno GPU、Hexagon NPU)、Android arm64、Windows(CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、ROCm、OpenCL Adreno)以及UI包。
- macOS Apple Silicon的KleidiAI启用构建标注为DISABLED
- openEuler的x86 310p、x86 910b ACL Graph、aarch64 310p、aarch64 910b ACL Graph构建标注为DISABLED