亚马逊云科技发布通用智能体评估框架UAEF,支持跨框架标准化测试
亚马逊云科技开源UAEF框架,通过统一追踪格式和36项内置指标,解决AI智能体在不同开发框架间难以横向对比和回归检测的问题。
亚马逊云科技(AWS)于2026年11月11日发布了通用智能体评估框架(Universal Agent Evaluation Framework,简称UAEF)。这是一个开源系统,旨在解决AI智能体开发中因使用不同框架(如LangGraph、LangChain、Strands Agents和Amazon Bedrock AgentCore)而导致评估标准不统一的问题。此前,团队往往需要针对特定框架的追踪格式重建指标和评分逻辑,切换框架时成本高昂。
UAEF的核心机制是通过适配器将各框架生成的执行记录转换为统一的“AgentTrace”规范格式。在此基础上,系统利用36项内置指标对智能体进行评分,涵盖工具调用、响应质量、负责任AI、性能、多轮对话、多智能体协调和推理等7个维度。所有指标均归一化为零到一区间,使得不同框架下的智能体版本可以在同一尺度上进行比较。
该框架还集成了个人身份信息(PII)筛查功能,并在存储结果时使用Amazon DynamoDB和Amazon S3,以便团队保存实验数据并生成报告。据AWS介绍,电信、医疗和金融服务行业的12家组织已在实际业务中使用UAEF来评估其AI智能体,并在发布前通过对比不同版本来检测性能回归。
UAEF以Apache 2.0许可证在GitHub上开源,提供了Python库、框架适配器、内置指标以及可运行的笔记本示例。对于正在构建复杂多智能体系统的开发者而言,这一工具提供了一套标准化的评估基础设施,有助于更客观地衡量提示词、模型或工具变更带来的影响。