Drescher反噬矩阵

AI安全研究者Dawn Drescher于2026年10月发布“机制-行动者”二维矩阵，旨在系统识别AI治理干预措施中的反噬风险。该框架将风险按“机制”（如古德哈特定律、双重用途）和“行动者”（如实验室、国家、模型本身）分类，列举了15种常见导致意外后果的路径，并为每种组合提供监控信号与缓解策略。Drescher指出，AI安全干预常因过度谨慎或设计缺陷引发次生灾害，例如限制措施可能导致活动转移至更隐蔽渠道（替代效应），或安全措施提升能力从而加速危险发展（能力外部性）。她强调需在行动前全面评估风险轮廓，而非单纯回避干预。这一框架为从业者提供了量化评估安全措施副作用的工具，试图在积极行动与风险规避间取得平衡。