开源llama.cpp Releases·原文 2026年10月16日

llama.cpp b11675发布:mtmd新增音频流接口,支持voxtral-realtime

该版本由发布说明标注为mtmd模块新增mtmd_audio_stream,并加入对voxtral-realtime的支持,PR编号 #30629;发布页同时列出多平台预编译包和多种后端构建。

AI解读:从接口命名看,mtmd_audio_stream面向音频流式输入,但发布说明没有给出具体API调用方式、音频格式或延迟数据。

voxtral-realtime被列为新增支持对象,说明llama.cpp的多模态mtmd路径开始覆盖实时音频模型;发布说明未说明该模型是否需要额外的模型文件或特殊配置。

发布页提供了预编译包,覆盖macOS/iOS、Linux、Android、Windows和UI,并包含CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL Adreno、Snapdragon等构建变体;其中macOS arm64 KleidiAI版、openEuler版和“Website/Attestations”项被标为DISABLED。

这是面向开发者的版本发布,发布说明没有附带性能对比或准确率评测,因此不能据此判断实时音频处理的速度或资源占用改善幅度。

llama.cpp发布b11675版本。发布说明写明,本次变更在mtmd模块新增mtmd_audio_stream,并支持voxtral-realtime,对应PR #30629,提交信息提到已处理review意见。

发布页同时给出该版本的预编译包列表和多种后端构建。

mtmd新增音频流接口并支持voxtral-realtime

发布说明把b11675的变更集中表述为两点:mtmd模块新增mtmd_audio_stream,以及支持voxtral-realtime,PR编号 #30629。提交摘要中还标出“address review”,表示作者对审查意见做了修改。

发布说明没有展开mtmd_audio_stream的具体函数签名、支持音频格式或示例代码,也没有给出voxtral-realtime的模型加载方式。这些细节需要查看对应PR或源码才能确认。

预编译包覆盖多平台与多种后端

发布页列出b11675的预编译产物,覆盖macOS/iOS、Linux、Android、Windows和UI。Linux和Windows侧提供CPU、Vulkan、CUDA 12与CUDA 13、ROCm 10.0、SYCL、OpenVINO等构建;Linux arm64和Android arm64另有Snapdragon的CPU、Adreno GPU、Hexagon NPU版本,Windows arm64提供OpenCL Adreno版本。

部分条目被标注为DISABLED,包括macOS Apple Silicon(arm64)KleidiAI enabled以及openEuler全部条目;发布页中“Website”和“Attestations”下没有列出内容。

信息来源

llama.cpp Releases原始来源

更多

新闻专题
外观