llama.cpp发布b12206:调整moe-cache,让CPU部分不再等待已缓存专家
该版本由GitHub Actions机器人发布,变更说明只有一句:在moe-cache中确保CPU部分不等待已缓存的专家(PR #31888)。其余内容为各平台预编译包列表。
AI解读:这次发布没有给出性能数据,也没有说明加速幅度;只能确认变更是调整moe-cache中CPU与已缓存专家之间的等待关系。
变更说明的表述指向带缓存的MoE推理路径:CPU部分不再等待已经缓存好的专家结果,具体到不同硬件和模型上的效果,来源未做说明。
b12206同时按既有矩阵提供macOS、iOS、Linux、Android、Windows等预编译包,覆盖CPU、CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL及Snapdragon的CPU/Adreno GPU/Hexagon NPU等后端;macOS的KleidiAI版本和openEuler构建标注为DISABLED。
llama.cpp发布b12206。发布页中唯一一条变更记录为「moe-cache : ensure CPU part does not wait for the cached experts (#31888)」,即调整moe-cache,使CPU部分不再等待已缓存的专家。该版本由GitHub Actions机器人发布,变更说明本身没有附带基准测试或效果数据。
这次变更改了什么
根据发布说明,这一项改动针对moe-cache的等待行为,并用PR #31888 标注出处。
说明未展开实现细节,也未说明涉及哪些模型规模、缓存命中条件或设备类型,因此无法从来源判断该改动的实际收益范围。
同批放出的构建包
b12206的发布附件覆盖macOS Apple Silicon(arm64)与macOS Intel、iOS XCFramework,Linux下的Ubuntu x64/arm64/s390x,以及Vulkan、CUDA 12.8、CUDA 13.5、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等后端;Android提供arm64及Snapdragon(CPU、Adreno GPU、Hexagon NPU)包;Windows提供x64/arm64 CPU、CUDA 12.4/13.5、Vulkan、OpenVINO、SYCL、ROCm 10.0等包。
列表中macOS Apple Silicon的KleidiAI版本和openEuler相关构建均标注为DISABLED(已禁用),并链接到对应PR。