llama.cpp发布b11803,新增Flint模型支持(FlintForCausalLM)
llama.cpp仓库的b11803版本在models部分加入Flint模型支持,对应实现名为FlintForCausalLM,合并请求编号 #30928。
AI解读:该条目注明工作有Codex协助,参与者包括Sigbjørn Skjæret;变更范围是让llama.cpp识别并加载Flint模型架构。
同一版本照常提供macOS、iOS、Linux、Android、Windows等平台预编译包,覆盖CPU、Vulkan、CUDA 12/13、ROCm、OpenVINO、SYCL及Snapdragon等后端。
来源未给出Flint模型的参数规模、效果评测或推理性能数据,因此无法据此判断该模型的实际表现。
llama.cpp发布b11803版本,变更说明中列出的主要改动是在models部分新增对Flint模型的支持,对应实现名为FlintForCausalLM,合并请求编号 #30928。
提交说明显示该工作有Codex协助,共同作者为Sigbjørn Skjæret。来源未说明Flint模型的参数规模、训练来源或效果评测。
b11803的模型改动
发布页把本次版本的改动概括为“models : add Flint model (FlintForCausalLM) (#30928)”,即让llama.cpp增加对Flint这一模型架构的识别与加载支持。
与模型改动同页出现的还有各平台预编译包下载链接,说明该改动随b11803一起分发,但从链接中无法看出各后端是否已专门针对Flint做过优化。
- 改动归属:models模块,新增FlintForCausalLM。
- 合并请求:#30928。
- 协作信息:提交说明标注Assisted by Codex,共同作者Sigbjørn Skjæret。
同版本预编译包覆盖范围
b11803的发布页列出了macOS(Apple Silicon与Intel)、iOS XCFramework、Linux(Ubuntu x64/arm64/s390x,含Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16、Snapdragon等构建)、Android(arm64及Snapdragon)与Windows(CPU、OpenCL Adreno、CUDA、Vulkan、OpenVINO、SYCL、ROCm)的下载包。
页面同时标注macOS Apple Silicon的KleidiAI构建为DISABLED并链接至PR #23780,openEuler构建同样标注为DISABLED并链接至PR #23705。
- 发布页给出了Ubuntu、Windows上CUDA 12与CUDA 13两套构建及对应运行库。
- Snapdragon构建覆盖CPU、Adreno GPU与Hexagon NPU,并附有Linux与Android的安装指南链接。
- 来源未说明Flint模型是否在上述每个后端上都能运行。