Mistral发布Voxtral 3:语音智能体SDK与转录、合成模型同步上线
Mistral称Voxtral 3的语音智能体SDK基于LiveKit,把语音输入、推理、工具调用和语音输出放进同一条实时流式管线,每轮交互在 1 秒内完成;转录覆盖 50 多种语言,合成覆盖 35 种以上语言和 50 种以上方言。模型可通过Mistral的欧盟托管API或自部署使用。
AI解读:Mistral称这套组合用于联络中心、服务台、虚拟助手和免手操作副驾等场景。
按Mistral说法,转录模型支持 50 多种语言,包含 24 种欧盟官方语言及多种亚洲、印度语系低资源语言;Small版本在说话人分离和多语言转录上优于Whisper、Scribe v2和Gemini 3.5 Transcribe。这些排名来自Mistral公布的评测图,并非独立验证。
合成模型Voxtral Mini TTS 3支持 35 种以上语言和 50 种以上方言,可按上下文调整情绪、语速和重音,支持提示词指令控制。Mistral称其价格为每 100 万字符 13 美元,低于OpenAI TTS-1、Deepgram、ElevenLabs Flash和Gemini Flash的对比价格。
Pro Voice声音适配被定位为面向专业场景:用 30 分钟音频复现说话人的音色、情绪范围和说话风格,并跨语言使用。
部署上,Mistral提供欧盟、美国和全球API端点,也可在自有基础设施上运行,并称用户可控制音频处理位置与是否保留对话。
自部署或私有云部署需联系Mistral团队。
Mistral发布Voxtral 3,一并推出语音智能体SDK和两个方向的语音模型:语音转文字Voxtral Small Transcribe 3、Voxtral Mini Transcribe 3及实时转录版本,和文字转语音Voxtral Mini TTS 3。Mistral称SDK把听、推理、工具调用和说合成一条实时流式管线,每轮交互在 1 秒内完成。
Mistral表示,Voxtral 3即日起通过其API提供,托管于欧盟、美国和全球端点,也可自部署在自有基础设施上。语音智能体、转录、语音生成和声音克隆可在Studio playground试用。
转录:50 多种语言与说话人分离
Mistral称,Voxtral Small Transcribe 3在多语言转录上达到当前最优,覆盖 50 多种语言,并新增说话人分离(区分谁在何时说话)、关键词偏置和话轮结束检测。关键词偏置允许向模型传入术语和自由文本,提高专业词汇召回率,无需微调。
Mistral公布的结果显示,在FLEURS 45语言评测上,Small版本的平均词错误率优于Microsoft AI Transcribe 2、Gemini 3.5 Transcribe、Scribe v2、GPT Transcribe和Whisper large-v3;说话人分离评测同样领先。上述对比来自Mistral自家图表,未说明第三方复现情况。
Mini版本为 4B参数,定价为每分钟 0.0035 美元;Small版本为每分钟 0.0040 美元。Mistral还提到Voxtral Realtime Transcribe 3在 35 种以上语言上实现低于 500 毫秒延迟的实时转录,实时版本定价为每分钟 0.008 美元。
- 支持语言:50 多种,含 24 种欧盟官方语言
- 功能:说话人分离、关键词偏置、话轮结束检测
- 定价:Mini每分钟 0.0035 美元,Small每分钟 0.0040 美元,实时版每分钟 0.008 美元
合成:按上下文调整情绪与语速
Voxtral Mini TTS 3支持 35 种以上语言和 50 种以上方言,可按对话上下文调整情绪、语速和重音,并提供显式指令控制,可指定情绪、节奏和重音等变量。Mistral称该模型能根据提示词的文本语境推断情绪和语音风格,减少额外指令或语音提示的需求。
价格方面,Mistral称Voxtral Speech 3为每 100 万字符 13 美元,批量与实时使用同一API。Mistral用多项内部评测和外部基准绘制“质量与价格”对比,称其低于OpenAI TTS-1、Deepgram、ElevenLabs Flash和Gemini Flash等模型;这些对比同样来自Mistral公布的材料。
声音预设覆盖 18 种语言,包括阿拉伯语、巴西葡萄牙语、加泰罗尼亚语、中文普通话、荷兰语、英语(美国、英国)、法语、德语、希腊语、印地语、意大利语、韩语、挪威语、俄语、西班牙语和越南语。
- 语言:35 种以上,方言 50 种以上
- 控制项:情绪、语速、重音,支持提示词指令
- 价格:每 100 万字符 13 美元
- 声音预设:18 种语言
Pro Voice:30 分钟音频做声音适配
Mistral为专业场景提供Pro Voice声音适配,称仅用 30 分钟音频即可复现说话人的音色特征、情绪范围和说话风格,并跨语言使用。该功能被定位为比基础声音克隆更准确,面向需要保持品牌声音或客服声音一致性的专业用例。
- 输入:30 分钟音频
- 目标:复现音色、情绪范围与说话风格
- 适用场景:专业用途
智能体:基于LiveKit的一条流水线
语音智能体SDK基于LiveKit构建,将语音输入、推理和语音输出作为一条流式管线运行。Mistral描述,Voxtral Mini Transcribe Realtime 3负责听并判断用户何时说完,通用模型如Mistral Small负责推理和调用工具,Voxtral Speech 3按对话语气回复。各阶段不互相等待,因此每轮可在 1 秒内完成;用户打断时,智能体停止说话。
通话中,智能体可用函数调用、网络搜索和自有系统检索来核验来电者身份、查看账单或预约。Mistral称它支持通过SIP接打电话,在浏览器和应用中通过WebRTC运行,并可对接现有电话、IVR和联络中心软件。由于每个阶段是独立模型,用户可以更换LLM、声音或语言,而不重写智能体。
- 底层:LiveKit
- 能力:函数调用、网络搜索、自有系统检索
- 接入:SIP电话、WebRTC浏览器与应用、现有电话与IVR系统
- 可替换:LLM、声音、语言独立更换
部署与数据控制
Mistral称Voxtral 3延续其主权部署设计:可通过欧盟托管API使用,也可部署在自有基础设施上,让组织控制音频处理位置、数据处理方式和对话是否保留。API同时提供欧盟、美国和全球端点。
- API端点:欧盟、美国、全球
- 自部署:自有基础设施或私有云
- 数据控制:音频处理位置、数据处理方式、对话保留策略