llama.cpp b11053发布:服务器启动日志改为标注每个模型的来源
该版本由PR #29125 改进server启动日志,为每个模型显示preset、models_dir或cache来源标签,并在缓存预设日志中打印Hugging Face Hub缓存路径,同时新增hf_cache::get_cache_dir() 公开访问接口。
AI解读:llama.cpp在b11053版本里动了启动日志:以前日志里用星号之类的符号标记模型来源,现在改成明确写出每个模型来自preset、models_dir还是cache。这对经常同时放好几份模型、又忘了哪份是从哪加载的人来说,等于少了一次猜谜。
改动还让缓存预设的日志直接打印Hugging Face Hub缓存路径,并新增hf_cache::get_cache_dir() 这个公开访问接口。也就是说,日志本身现在能告诉你模型文件到底在磁盘的哪个位置,排查“为什么加载的是旧版本模型”这类问题会直观不少。
发布日志显示PR #29125 的作者得到了pi:llama.cpp/Qwen3.8-27B的辅助。按发布页信息,这是一次日志层面的启动体验调整,没有说明对推理速度、内存或模型精度的影响;b11053仍按惯例提供macOS、Linux、Windows、Android等多平台预编译包,其中部分后端被标记为DISABLED。
llama.cpp发布b11053版本,主要改动是server的启动日志。对应PR #29125 让server-models在日志中为每个模型显示来源标签,可选值为preset、models_dir或cache,替换此前含义不明确的星号标记。
同时在“Loaded cached model presets”这条日志中显示Hugging Face Hub缓存路径,并新增公开访问接口hf_cache::get_cache_dir()。发布信息注明该改动由pi:llama.cpp/Qwen3.8-27B辅助完成。
发布页同时列出b11053的预编译产物,覆盖macOS、iOS、Linux、Android和Windows等平台。发布说明未提及推理性能、内存占用或模型精度方面的变化。
启动日志的具体变化
按发布说明,PR #29125 的目标是改进server的启动日志信息。原先日志用一个隐晦的星号标记表示模型来源,改动后改为给每个模型显示 [source] 标签,取值为preset、models_dir或cache。对于在server配置里同时挂载多个模型目录的用户,这能直接看出某个模型是从预设、模型目录还是缓存加载的。
另一处改动是在“Loaded cached model presets”日志里输出Hugging Face Hub的缓存路径。发布说明还提到新增了hf_cache::get_cache_dir() 这一公开访问接口。两者结合,日志层面可以定位缓存模型的实际磁盘位置。
- 模型来源标签取代星号标记,取值为preset、models_dir、cache
- “Loaded cached model presets”日志现在显示Hugging Face Hub缓存路径
- 新增hf_cache::get_cache_dir() 公开访问接口
- PR #29125,发布说明注明由pi:llama.cpp/Qwen3.8-27B辅助
b11053的预编译产物范围
发布页列出该版本的下载产物。macOS和iOS方面提供Apple Silicon(arm64)、Intel(x64)以及iOS XCFramework;其中macOS Apple Silicon的KleidiAI版本被标记为DISABLED,并指向PR #23780。
Linux方面覆盖Ubuntu x64与arm64的CPU版本、s390x、Vulkan、CUDA 12.8与CUDA 13.3(含arm64)、ROCm 10.0、OpenVINO 2026.4,以及SYCL FP32和FP16。Windows方面覆盖x64与arm64的CPU、OpenCL Adreno(arm64)、CUDA 12.4与CUDA 13.4(含arm64)、Vulkan、OpenVINO 2026.4、SYCL以及ROCm 10.0。
Android提供arm64的CPU包;openEuler相关产物(x86 310p、x86 910b ACL Graph、aarch64 310p、aarch64 910b ACL Graph)被标记为DISABLED,指向PR #23705。发布页另附独立的UI包。
- macOS Apple Silicon的KleidiAI版本标记为DISABLED(PR #23780)
- openEuler的 310p与 910b(ACL Graph)产物标记为DISABLED(PR #23705)
- Linux含CUDA 12.8、CUDA 13.3、ROCm 10.0、OpenVINO 2026.4、SYCL FP32/FP16等构建
- Windows含CUDA 12.4、CUDA 13.4、OpenCL Adreno、ROCm 10.0等构建