Arize AI代码模式
5 节点1 篇5 来源
Arize AI在其开源观测平台Phoenix中全面部署了“代码模式”(Code Mode),旨在解决AI Agent因工具过多导致的上下文膨胀与高延迟问题。该模式允许Agent在受限沙箱中编写并执行Python或JavaScript代码来组合调用工具,而非通过模型逐次发起函数调用。据Arize官方基准测试显示,在处理跨大量Span的聚合查询时,SQL代码模式相比传统检索模式平均成本降低约17倍;而在UI交互场景中,PXI代理通过浏览器内JS沙箱执行脚本,将单次复杂操作的Token消耗从约14,700降至2,300。这一转变标志着Agent架构从“预加载工具目录”向“动态代码生成与执行”的演进,显著提升了长周期任务的效率与灵活性。
事情怎么走到这一步
Arize发布博客文章《Arize Phoenix has a built-in MCP server that lets your agents query traces with SQL》,介绍Phoenix内置MCP服务器支持只读SQL和代码模式,基准测试显示成本降低约17倍。
arize.com ↗Arize开源负责人Mikyo King发表博客《Code mode: Why your agent should code》,阐述代码模式如何通过沙箱执行减少模型轮次和Token消耗,解决“工具过多”问题。
arize.com ↗Arize工程师Anthony Powell发表博客《How we built UI Code Mode into Arize Phoenix》,详述如何在Web应用中通过JavaScript沙箱实现UI代码模式,替代58个独立工具。
arize.com ↗科技媒体Welcome.ai报道Arize AI的代码模式增强效率与协作,指出PXI代理在UI集成中实现了实时状态更新,并将Token使用量大幅削减。
welcome.ai ↗Disconfirm收录Arize AI开源负责人Mikyo King在ai.engineer播客中的访谈内容,确认代码模式在Phoenix中的实现及其带来的43% Token减少和31%成本降低效果。
youtube.com ↗