摩根士丹利研究员Brendan Rappazzo在AI Engineer介绍Loophole多智能体道德压力测试框架

AI Engineer频道于2026年9月14日发布了题为《Loophole: Adversarial Agents To Stress Test Your Morality》的视频演讲。主讲人Brendan Rappazzo是摩根士丹利的机器学习研究员，他在开场时说明该项目是他个人的开源工作，与雇主无关。

根据出版方提供的节目描述，Loophole旨在解决从自然语言道德信念到书面规则之间的“翻译问题”。Rappazzo举例指出，保险公司可能不会直接在DNA上训练风险模型，而是使用源自DNA的衍生数据；在某些用户设定的道德准则下，这种行为是不道德但完全合法的，而Loophole正是为了暴露这类缺口而生。

该框架的工作机制涉及多个智能体的协作：首先由一个智能体将用户的自然语言道德描述起草为正式的法律代码；随后两个对抗性智能体分别从相反方向处理该代码——一个寻找“漏洞”（不道德但合法的行为），另一个寻找“过度限制”（道德但非法的行为）。最后，一个“法官”智能体判断发现的矛盾是可以通过修补解决的翻译错误，还是用户道德体系中真正的漏洞并上报给用户。

节目时间戳显示，Rappazzo还探讨了该架构的几个分支应用，包括为客户面向机器人制定系统提示词宪法、检查去中心化合同是否符合公司服务条款，以及模拟美国参议院通过改写医疗法案使其获得52票支持的过程。