llama.cpp b11641发布:新增lilicorr支持
llama.cpp发布b11641版本,主要变更为spec模块加入lilicorr支持(PR #30506),由Georgi Gerganov共同署名。版本同时提供多平台预编译包。
AI解读:该PR由Georgi Gerganov共同署名(co-authored),提交信息中包含一处typo修复。
发行包覆盖macOS/iOS、Linux、Android、Windows及UI,含CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL、Snapdragon等构建。
发行说明中macOS Apple Silicon(启用KleidiAI)与openEuler相关构建标记为DISABLED。
来源未说明lilicorr的作用范围、性能影响或适用模型,也未提供评测数据。
llama.cpp发布b11641版本。发行说明列出的主要变更是在spec模块中新增lilicorr支持,对应PR #30506。
提交信息还包含:convert部分改用约定式超参数赋值、在llama-batch.cpp中为超参数使用添加TODO,以及一处typo修复。该PR由Georgi Gerganov共同署名。
b11641的代码变更
根据发行说明,PR #30506 的主题是“spec : add lilicorr support”,即向spec模块加入lilicorr支持。同一提交中,convert部分按约定方式处理超参数赋值,llama-batch.cpp中留有待办事项,并修复了一个拼写错误。
提交由Georgi Gerganov共同署名(co-authored)。来源未解释lilicorr的具体含义、支持哪些模型或格式,也未给出性能或兼容性说明。
- PR编号:#30506
- 变更模块:spec
- convert变更:使用约定进行超参数赋值
- 其他:llama-batch.cpp中新增超参数使用TODO,修复一处typo
- 共同署名:Georgi Gerganov
随版本发布的预编译包
b11641沿用该项目惯例,为多个平台提供预编译二进制包,涵盖macOS/iOS、Linux、Android、Windows以及UI。
Linux与Windows包覆盖CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL等后端;Android和Linux arm64还提供面向Snapdragon的CPU、Adreno GPU、Hexagon NPU组合包,并附有setup guide。发行说明中,macOS Apple Silicon的KleidiAI启用版本与openEuler相关条目标记为DISABLED。
- 平台:macOS/iOS、Linux、Android、Windows、UI
- Linux后端:CPU、Vulkan、CUDA 12(12.8)、CUDA 13(13.4)、ROCm 10.0、OpenVINO、SYCL FP32/FP16
- Windows后端:CPU、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0、OpenCL Adreno
- 移动端:Android arm64(CPU及Snapdragon三件套)、iOS XCFramework
- 标记为DISABLED:macOS Apple Silicon(KleidiAI enabled)、openEuler各条目