Sierra
5 节点1 篇5 来源
Sierra(美国AI客服公司)针对当前语音智能体开发中“决定何时说话”与“决定说什么内容”的资源分配不均(即“50/50”失衡)问题,提出了一套以低延迟和可靠性为核心的技术架构。该公司通过并行化处理思考、倾听和说话流程,结合自定义语音活动检测(VAD)、运行时并发图执行及流式语音合成,显著优化了首次音频响应时间(TTFA)。此外,Sierra引入了“Voice Sims”双循环模拟系统,利用LLM作为裁判在真实噪声和中断场景下对智能体进行大规模压力测试,并采用“模型星座”策略动态调度15+种不同模型以平衡速度、精度与语调,旨在解决多语言环境下的文化细微差别与实时交互挑战。
事情怎么走到这一步
Sierra产品负责人Zack Reneau-Wedeen在Max Agency播客中指出语音智能体存在“50/50”架构失衡,即简单逻辑与复杂模型间的资源分配矛盾,并提出通过并行化处理来解决。
youtube.com ↗Sierra官方博客发布《Engineering low-latency voice agents》,详述其如何通过自定义VAD模型、并发运行时图(含预测性预取和自适应模型选择)以及流式TTS技术来降低延迟。
sierra.ai ↗Sierra发布《How Voice Sims work》,介绍其双循环架构(模拟呼叫循环与语音循环),允许企业在部署前通过数千次可重复的模拟运行来测试智能体在噪声、中断等混乱场景下的表现。
sierra.ai ↗Sierra发布《Constellation of models》,阐述其使用15+种前沿、开源及专有模型的编排策略,根据任务需求(如低延迟工具调用或长上下文推理)动态选择最佳模型组合。
sierra.ai ↗Sierra发布《Multilingual voice》,说明其如何支持34种以上语言,通过结合人类评估与自动化基准测试,针对不同地区调整模型组合以捕捉语调、节奏和文化细微差别。
sierra.ai ↗
还没定论的部分
- Sierra的“模型星座”策略在实际生产环境中如何处理不同模型提供商之间的成本波动与API稳定性风险?