微软开源Scope评测平台,追踪AI编程代理的工具调用与任务执行
微软开源了Scope,这是一个用于评估GitHub Copilot等AI编程代理的框架。它通过记录操作过程、设定检查条件并利用大模型评估结果,帮助开发团队调试代理在调用SDK和API时的错误,解决代码虽能运行但未按预期使用工具的可靠性痛点。
微软于2026年10月19日开源了名为Scope的评测平台,旨在帮助开发团队测试和追踪AI编程代理(如GitHub Copilot、Claude Code)在执行指定任务时的表现。该平台允许软件团队验证代理是否按照文档正确使用了软件开发套件(SDK)、应用程序接口(API)及相关工具,并记录完整的操作过程与测试结果。
在实际应用中,AI代理协助开发者编写代码时可能会出现选错API、忽略文档重要指示或遇到错误后无法完成工作等问题。即使最终生成的代码能够正常运行,也不代表代理使用了预期的工具链。Scope针对这一痛点,让团队能够测试代理在使用自家SDK、命令行工具以及用于连接外部服务的MCP服务器时容易出错的环节。
开发团队可以通过Scope设定任务的完成标准并提供起始代码,让不同的AI代理执行相同任务。系统会记录每次使用的AI模型版本、代理版本及工具配置。修改开发文件或工具后,团队可使用相同任务重新测试,以观察代理是否更容易完成工作,并区分错误是偶发还是反复出现。此外,Scope支持设置多项检查条件及其依赖关系(例如先成功构建程序,再检查SDK初始化),并通过大型语言模型评估各项条件的达成情况,同时保留操作记录和目录快照供追查。
尽管提供了自动化评估,微软指出AI代理即使在相同设置下,每次执行结果仍可能不同,且系统自动判断也可能出错。因此,官方建议进行反复测试并由人工检查相关记录。目前Scope需由用户自行部署,提供网页管理界面及API集成选项,项目采用MIT授权,源代码已在GitHub公开,但仍处于研究预览阶段。