模型Mistral News·原文 2026年10月20日本站收录 2026年10月21日

Mistral发布Voxtral 3:语音智能体SDK与转录、合成模型同步上线

Mistral称Voxtral 3的语音智能体SDK基于LiveKit,把语音输入、推理、工具调用和语音输出放进同一条实时流式管线,每轮交互在 1 秒内完成;转录覆盖 50 多种语言,合成覆盖 35 种以上语言和 50 种以上方言。模型可通过Mistral的欧盟托管API或自部署使用。

AI解读:Mistral称这套组合用于联络中心、服务台、虚拟助手和免手操作副驾等场景。

按Mistral说法,转录模型支持 50 多种语言,包含 24 种欧盟官方语言及多种亚洲、印度语系低资源语言;Small版本在说话人分离和多语言转录上优于Whisper、Scribe v2和Gemini 3.5 Transcribe。这些排名来自Mistral公布的评测图,并非独立验证。

合成模型Voxtral Mini TTS 3支持 35 种以上语言和 50 种以上方言,可按上下文调整情绪、语速和重音,支持提示词指令控制。Mistral称其价格为每 100 万字符 13 美元,低于OpenAI TTS-1、Deepgram、ElevenLabs Flash和Gemini Flash的对比价格。

Pro Voice声音适配被定位为面向专业场景:用 30 分钟音频复现说话人的音色、情绪范围和说话风格,并跨语言使用。

部署上,Mistral提供欧盟、美国和全球API端点,也可在自有基础设施上运行,并称用户可控制音频处理位置与是否保留对话。

自部署或私有云部署需联系Mistral团队。

Mistral发布Voxtral 3,一并推出语音智能体SDK和两个方向的语音模型:语音转文字Voxtral Small Transcribe 3、Voxtral Mini Transcribe 3及实时转录版本,和文字转语音Voxtral Mini TTS 3。Mistral称SDK把听、推理、工具调用和说合成一条实时流式管线,每轮交互在 1 秒内完成。

Mistral表示,Voxtral 3即日起通过其API提供,托管于欧盟、美国和全球端点,也可自部署在自有基础设施上。语音智能体、转录、语音生成和声音克隆可在Studio playground试用。

转录:50 多种语言与说话人分离

Mistral称,Voxtral Small Transcribe 3在多语言转录上达到当前最优,覆盖 50 多种语言,并新增说话人分离(区分谁在何时说话)、关键词偏置和话轮结束检测。关键词偏置允许向模型传入术语和自由文本,提高专业词汇召回率,无需微调。

Mistral公布的结果显示,在FLEURS 45语言评测上,Small版本的平均词错误率优于Microsoft AI Transcribe 2、Gemini 3.5 Transcribe、Scribe v2、GPT Transcribe和Whisper large-v3;说话人分离评测同样领先。上述对比来自Mistral自家图表,未说明第三方复现情况。

Mini版本为 4B参数,定价为每分钟 0.0035 美元;Small版本为每分钟 0.0040 美元。Mistral还提到Voxtral Realtime Transcribe 3在 35 种以上语言上实现低于 500 毫秒延迟的实时转录,实时版本定价为每分钟 0.008 美元。

  • 支持语言:50 多种,含 24 种欧盟官方语言
  • 功能:说话人分离、关键词偏置、话轮结束检测
  • 定价:Mini每分钟 0.0035 美元,Small每分钟 0.0040 美元,实时版每分钟 0.008 美元

合成:按上下文调整情绪与语速

Voxtral Mini TTS 3支持 35 种以上语言和 50 种以上方言,可按对话上下文调整情绪、语速和重音,并提供显式指令控制,可指定情绪、节奏和重音等变量。Mistral称该模型能根据提示词的文本语境推断情绪和语音风格,减少额外指令或语音提示的需求。

价格方面,Mistral称Voxtral Speech 3为每 100 万字符 13 美元,批量与实时使用同一API。Mistral用多项内部评测和外部基准绘制“质量与价格”对比,称其低于OpenAI TTS-1、Deepgram、ElevenLabs Flash和Gemini Flash等模型;这些对比同样来自Mistral公布的材料。

声音预设覆盖 18 种语言,包括阿拉伯语、巴西葡萄牙语、加泰罗尼亚语、中文普通话、荷兰语、英语(美国、英国)、法语、德语、希腊语、印地语、意大利语、韩语、挪威语、俄语、西班牙语和越南语。

  • 语言:35 种以上,方言 50 种以上
  • 控制项:情绪、语速、重音,支持提示词指令
  • 价格:每 100 万字符 13 美元
  • 声音预设:18 种语言

Pro Voice:30 分钟音频做声音适配

Mistral为专业场景提供Pro Voice声音适配,称仅用 30 分钟音频即可复现说话人的音色特征、情绪范围和说话风格,并跨语言使用。该功能被定位为比基础声音克隆更准确,面向需要保持品牌声音或客服声音一致性的专业用例。

  • 输入:30 分钟音频
  • 目标:复现音色、情绪范围与说话风格
  • 适用场景:专业用途

智能体:基于LiveKit的一条流水线

语音智能体SDK基于LiveKit构建,将语音输入、推理和语音输出作为一条流式管线运行。Mistral描述,Voxtral Mini Transcribe Realtime 3负责听并判断用户何时说完,通用模型如Mistral Small负责推理和调用工具,Voxtral Speech 3按对话语气回复。各阶段不互相等待,因此每轮可在 1 秒内完成;用户打断时,智能体停止说话。

通话中,智能体可用函数调用、网络搜索和自有系统检索来核验来电者身份、查看账单或预约。Mistral称它支持通过SIP接打电话,在浏览器和应用中通过WebRTC运行,并可对接现有电话、IVR和联络中心软件。由于每个阶段是独立模型,用户可以更换LLM、声音或语言,而不重写智能体。

  • 底层:LiveKit
  • 能力:函数调用、网络搜索、自有系统检索
  • 接入:SIP电话、WebRTC浏览器与应用、现有电话与IVR系统
  • 可替换:LLM、声音、语言独立更换

部署与数据控制

Mistral称Voxtral 3延续其主权部署设计:可通过欧盟托管API使用,也可部署在自有基础设施上,让组织控制音频处理位置、数据处理方式和对话是否保留。API同时提供欧盟、美国和全球端点。

  • API端点:欧盟、美国、全球
  • 自部署:自有基础设施或私有云
  • 数据控制:音频处理位置、数据处理方式、对话保留策略

信息来源

Mistral News原始来源

更多

新闻专题
外观