LiveKit工程师Jesse Hall:如何构建在打断中保持稳定的金融语音代理
LiveKit的Jesse Hall在视频中讲解了为金融服务构建拟人化语音代理的工程方法,重点包括为何模型排行榜误导开发、以首次音频和首次句子而非首字节衡量延迟、利用异步工具调用隐藏后端耗时,以及使用模拟呼叫者进行基准测试。
LiveKit工程师Jesse Hall在一段视频中分享了构建面向金融服务的语音代理的经验,旨在让代理听起来更像人类而非机器人。他特别指出,传统的模型排行榜往往具有误导性,因为它们评估的是单个组件,而开发者最终交付的是完整的对话体验。
Hall建议开发者应关注“首次音频时间”和“首次句子时间”,而不是通常关注的“首字节”或“首令牌”。他还解释了如何通过异步工具调用,在后端执行缓慢操作时保持对话流畅。此外,他讨论了音频感知的轮次检测、约1.5秒的延迟预算(其中500-600毫秒感觉真正像人类),以及如何通过模拟呼叫者来基准测试自己的技术栈。