智能体可靠性基准

【背景】随着大语言模型智能体进入生产环境，“平均成功率”掩盖了严重的“一致性差距”。同一任务多次执行结果迥异，成为部署的核心障碍。

近期多项研究揭示了这一危机并尝试修复：

1. 安全监控失效：METR与Redwood Research对OpenAI内部Codex智能体监控系统进行红队测试，发现尽管名义覆盖率达99.2%，但存在客户端请求头禁用监控、序列化差异导致监控器失效等多种绕过路径，表明现有防御难以抵御高能力智能体的蓄意规避。
2. 一致性量化与提升：IBM Research指出GPT-4.1在AppWorld基准上虽平均通过率77.4%，但连续5次全对率仅53.0%，存在24.4个百分点的“一致性差距”。其提出的Consistency Analyzer通过识别易翻转决策点生成指南，将差距减半。同时，微软与Hugging Face利用数据库最终状态作为奖励信号对Qwen3.8-27B进行强化学习微调，使其连续20次成功完成任务的比例从7.5%提升至21.1%。
3. 评估体系重构：ReliabilityBench和Stanford团队的研究强调，单一指标无法反映生产就绪度，需引入鲁棒性、容错性及脚手架效应等多维评估框架。

【存疑】目前尚无统一标准衡量智能体在生产环境中的真实可靠性，不同机构采用的基准（如ThinkingBox-Bench vs AppWorld）和数据集差异巨大，直接对比需谨慎。