Sierra推出fleming-1模型,实时识别来电方是否为AI代理
Sierra称新模型可实时分析来电语音、判断是否为合成语音,并标记疑似AI来电;该模型默认保守调参以避免误判真人,适用于任何基于Sierra构建的语音代理,企业开启即可使用。
AI解读:模型实时分析来电者语音,识别AI生成迹象,在被叫方通话过程中给出判断。
Sierra称fleming-1默认调参保守,以降低误标真人的风险;标记结果交由企业自行决定后续处理。
Sierra前一天宣布Personal Agent Protocol开放标准,让个人代理以授权方式与企业交互;协议与fleming-1分别覆盖“主动表明身份”和“未表明身份时识别”两种情况。
Sierra发布名为fleming-1的模型,用于在电话通话中检测来电方是否为另一个AI代理。该消息来自Sierra官方博客,作者为Ajeet Grewal和Venu Satuluri。
据Sierra介绍,fleming-1在通话进行中实时分析来电者语音,对音频是否由AI生成进行评分。Sierra表示模型默认调参保守,以免真人被错误标记,被标为疑似AI的来电交由企业决定如何处理。
fleming-1如何判断来电方是否为代理
Sierra称,随着合成语音质量提升,加上背景噪音、模糊音频和糟糕连接会掩盖线索,仅靠人耳已更难分辨合成声音与真人。fleming-1的做法是分析来电者的语音,寻找音频由AI生成的迹象,而不依赖人耳听到的声音特征。
Sierra表示,被fleming-1识别为“可能是AI”的通话会被标记,企业可自行决定标记之后采取什么动作。Sierra将这一能力类比为来电显示:来电显示本身不告诉接听者是否应该接电话,fleming-1同样只提供信息,如何处理由企业决定。
- 分析对象:来电者的语音,在通话仍在进行时完成。
- 判断方式:对音频是否为AI生成进行评分,不依赖人耳听感。
- 默认策略:调参保守,Sierra称这是为了避免误标真人。
- 结果用途:标记疑似AI来电,后续处理由企业决定。
适用条件与部署方式
Sierra称,fleming-1适用于任何基于Sierra构建的语音代理,企业只需将其开启即可使用。
Sierra在博客中列举了几种来电场景:有些自动呼叫者可能是试图大规模测试账户安全的欺诈者;另一些可能是把事务交给代理处理的客户,或是依赖文本转语音的人。Sierra称,企业可以先从统计此类来电出现的频率入手,例如一家高通话量的公司可能先测量这种情况发生的频率;银行则可能针对来电方是代理的情形增加验证步骤。
- 适用范围:任何基于Sierra构建的语音代理。
- 使用方式:企业开启即可,Sierra未披露具体配置步骤。
- Sierra建议的处理示例:高通话量企业先统计代理来电频率;银行可对代理来电增加验证步骤。
- Sierra未在本篇博客中公布fleming-1的检测准确率、误报率或客户使用效果数据。
与Personal Agent Protocol的关系
Sierra在博客中提到,此前一天已宣布Personal Agent Protocol,这是一个与行业伙伴共同开发的开放标准,让个人代理以直接且经授权的方式与企业交互。Sierra称,当代理使用该协议时,企业能知道对方是代理,以及它在代表谁。
Sierra也承认,部分代理可能不会遵守该协议。fleming-1面向的正是这类未表明身份的情况。Sierra称,去年其平台上就出现过基于Sierra构建的代理互相拨打的情况,发生在医疗领域;随着Instinct、Muse等个人代理兴起,企业接到的电话中可能有很大一部分来自代表消费者行动的AI。
- Personal Agent Protocol:Sierra与行业伙伴共同开发的开放标准,让个人代理以经授权的方式与企业交互。
- 协议作用:企业能知道来电方是代理以及它代表谁。
- 协议局限:Sierra称部分代理可能不遵守该协议。
- fleming-1定位:用于未遵守协议、未表明身份的代理来电。