llama.cpp b11941加入LiquidAI LFM3-Audio-2B与LFM3-Omni-2B支持
该版本在转换与多模态推理路径中接入两个LiquidAI音频模型,并为TTS增加男女声选择;发布说明同时列出各平台预编译包。
AI解读:转换环节按模型发布时的config.json读取LFM3-Audio;提交说明称,认识lfm3_audio的transformers会把配置改写成另一种布局、不再保留lfm/encoder键,因此需要按原始格式处理。
mtmd中对LFM3-Audio的depthformer关闭了flash attention;convert改为按model_type识别LFM3-Audio与LFM3-Omni。
TTS新增声音选项:模型卡提供女声和男声,llama-tts使用 --tts-voice,server的 /tts使用 "voice"。
llama侧保留LFM3-Audio编码器卷积和编解码器为非量化状态;banned tokens被移到logits bias再到mtmd_helper,mtmd-cli未改动。
发布页同时提供macOS、Linux、Windows、Android及多种后端(CUDA、Vulkan、ROCm、SYCL、OpenVINO等)的预编译包;openEuler与macOS KleidiAI构建标注为DISABLED。
llama.cpp发布b11941,主要变更是新增对LiquidAI/LFM3-Audio-2B和LiquidAI/LFM3-Omni-2B两个模型的支持,对应PR #31257,由Xuan Son Nguyen共同署名。提交信息中的多项改动标注Assisted-by: Claude Opus 5.5。
转换与多模态路径的适配
转换脚本改为按LFM3-Audio发布时的config.json读取。提交说明指出,认识lfm3_audio的transformers会把配置重写成另一种布局,不再有lfm/encoder键,因此不能依赖被改写后的结构。
convert改为通过model_type识别LFM3-Audio与LFM3-Omni。mtmd中对LFM3-Audio的depthformer关闭flash attention,llama侧则保留LFM3-Audio编码器的卷积和编解码器为非量化状态。
- 按发布原始config.json读取LFM3-Audio配置
- convert以model_type区分LFM3-Audio与LFM3-Omni
- LFM3-Audio depthformer关闭flash attention
- 编码器卷积与codec保持非量化
TTS声音选项与代码整理
TTS侧新增声音选项。提交说明称模型卡提供女声和男声两个声音,llama-tts通过 --tts-voice指定,server的 /tts接口使用 "voice" 参数。
同一提交还把banned tokens的处理移到logits bias,再交由mtmd_helper;mtmd-cli保持不变,模板处理做了清理,并移除了template_asr_system。
- llama-tts:--tts-voice
- server /tts:voice参数
- mtmd-cli未改动
- 移除template_asr_system
预编译包覆盖范围
发布页列出macOS(Apple Silicon、Intel)、iOS XCFramework、Linux(Ubuntu x64/arm64/s390x及Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL)、Android、Windows(CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm)等预编译包,另有Snapdragon平台包与UI包。openEuler的构建项以及macOS Apple Silicon的KleidiAI构建在页面中标注为DISABLED。
- 提供CUDA 12.8、CUDA 13.4等后端包
- openEuler构建标注DISABLED
- KleidiAI版macOS arm64构建标注DISABLED