llama.cpp b11551发布:新增MiniCPM-V 4.7模型支持
该版本在mtmd中加入MiniCPM-V 4.7支持,并引入GGUF的rope.section_order元数据、处理网格布局及一项兼容性放行;作者为tc-mb,Sigbjørn Skjæret与Xuan Son Nguyen参与协作。
AI解读:提交说明还包含:允许mrope时间从额外的位置槽读取、更新conversion/minicpm.py、为GGUF增加rope.section_order元数据、处理网格布局,以及“allow compat”一项。
发布页同时列出多平台预编译包,覆盖macOS/iOS、Linux、Android、Windows及openEuler,并含Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL等后端;其中macOS Apple Silicon的KleidiAI版本与openEuler构建被标注为DISABLED。
该发布仅说明模型支持与构建产物,未给出MiniCPM-V 4.7的评测或性能数据。
llama.cpp发布b11551版本,主要变更是为MiniCPM-V 4.7增加支持(PR #29416)。
MiniCPM-V 4.7支持的具体改动
根据发布说明,这次提交由tc-mb完成,Sigbjørn Skjæret与Xuan Son Nguyen参与协作。改动要点包括:在mtmd中加入MiniCPM-V 4.7支持;允许mrope时间从额外的位置槽读取;更新conversion/minicpm.py;在GGUF中增加rope.section_order元数据;处理网格布局;以及一项“allow compat”。
提交信息未提供该模型在llama.cpp上的性能、显存占用或精度数据。
- mtmd模块新增MiniCPM-V 4.7支持
- 允许mrope时间从额外的位置槽读取
- 更新conversion/minicpm.py
- GGUF新增rope.section_order元数据
- 处理网格布局
- allow compat
随版本提供的构建产物
发布页列出b11551的多平台预编译包,包括macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework,以及Ubuntu的CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16等构建。
还提供Windows的CPU、OpenCL Adreno、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0构建,Android arm64的CPU与Snapdragon构建,以及Linux arm64 Snapdragon构建和一个UI包。发布页将macOS Apple Silicon的KleidiAI版本与openEuler各构建标注为DISABLED。
- macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework
- Ubuntu x64/arm64/s390x,含Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16
- Windows x64/arm64,含CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0、OpenCL Adreno
- Android arm64与Linux arm64的Snapdragon构建
- macOS Apple Silicon KleidiAI版本与openEuler构建标注为DISABLED