韩国AI评估公司SelectStar发布模型路由技术“Davi”,自测显示成本降低28%
SelectStar推出AI判断模型Davi,通过动态路由优化推理成本。其自测数据显示,在韩语高难度问答中,相比仅使用最高性能模型,成本降低28%且准确率微升。
韩国AI可靠性评估公司SelectStar于10月26日发布了名为“Davi”的AI判断特化模型。该模型的核心功能是“模型路由”(Model Routing),即先分析用户问题的难度,再将简单问题分配给轻量级AI模型,将复杂问题分配给高性能模型,以平衡成本与准确性。
据SelectStar公布的内部测试数据,在与另一家AI公司TypeSafeAI开发的同类模型“Zev”的对比中,Davi在多项指标上表现更优。在包含231个题目的“ZevBench”测试中,Davi准确率为89.2%,高于Zev的86.6%;在高难度条件判断任务中,Davi准确率为77.5%,比Zev高出4.5个百分点。
在具体的成本效益实验中,SelectStar使用174个韩语高难度问答样本进行了重复测试。结果显示,当Davi自动从Anthropic的Haiku、Sonnet和Opus三个模型中选择时,整体准确率达到71.1%,略高于始终使用最高性能Opus模型的70.3%。与此同时,这种动态路由方式使模型执行成本降低了约28%。
需要注意的是,上述结果均为SelectStar自行评估的数据。该公司承认,实验仅限于韩语高难度场景,且计算的成本节省未包含调用Davi路由器本身的开销。因此,实际企业环境中的综合成本效益仍需进一步验证。此外,SelectStar还开源了基于Apache 2.0许可证的模型路由插件,供开发者测试类似功能。