ElevenLabs发布Eleven Realtime:集成式语音代理模型,兼容OpenAI API
ElevenLabs在视频中介绍了其新的Speech-to-Speech模型系列Eleven Realtime。该模型将语音识别、轮次管理、LLM和语音生成整合为一个系统,旨在简化自然语音代理的开发。官方称v1 Max版本在Artificial Analysis的Big Bench Audio测试中得分98.8%,且平均启动说话时间为0.57秒。开发者可通过ElevenAgents或兼容OpenAI Realtime API的接口使用。
重要性实质性证据E2 未复现写法快讯
ElevenLabs发布了名为Eleven Realtime的新类Speech-to-Speech模型,旨在为构建自然语音代理提供更简单的途径。根据官方介绍,每个Realtime模型都是一个完整的语音代理,它将语音识别、轮次管理(turn-taking)、大语言模型(LLM)和语音生成作为一个系统进行调优。这种集成方式意味着开发者只需选择一个模型即可获得高性能代理,而无需自行配置和测试各个组件。
目前提供两个模型版本:Eleven Realtime v1 Mini专为低成本的自然对话设计,适用于AI助手、导师和交互式角色;Eleven Realtime v1 Max则针对复杂任务和工具调用优化,适用于客户支持、线索资格认定和多步骤工作流。官方数据显示,两者均能在约0.6秒内开始说话。
在性能指标方面,ElevenLabs引用了Artificial Analysis的独立评估结果,指出v1 Max在Big Bench Audio基准测试中获得了98.8%的分数,平均启动说话时间为0.57秒。官方声称,在其Speech-to-Speech排行榜上,没有模型能同时比它更快且更准确。
Eleven Realtime已在ElevenAgents平台上线,用户可在模型下拉菜单中选择。此外,它也通过Realtime API提供,该API与OpenAI的Realtime API兼容。对于已经使用OpenAI Realtime API的开发者,只需更改端点和模型名称即可保留其余代码,从而降低迁移成本。