预印本称持续学习加剧深度伪造检测不公平
新研究指出，为应对新型造假技术而不断更新的AI检测器，其性能退化往往不成比例地损害特定人群的权益。
重要性实质性证据E2 未复现写法快讯
一项于2026年10月15日提交的arXiv预印本研究发现，用于识别深度伪造视频的持续学习（Continual Learning, CL）方法在更新过程中会加剧不同人群间的不公平性。该研究由Kajaree Das等人完成，旨在解决传统静态数据集无法应对不断演变的生成式AI威胁的问题。
研究人员分析了四种公平性维度，并让检测器按时间顺序在11种真实世界的深度伪造生成方法上进行渐进式训练。结果显示，随着时间推移，准确率的下降通常会放大不公平现象，而公平性的改善则十分罕见。
值得注意的是，这种不公平的遗忘并不能单纯用某些群体在训练数据中的代表性不足来解释，它可能与模型底层的表征学习机制纠缠在一起。作者呼吁，在设计持续学习算法以平衡“稳定性”（保留旧知识）与“可塑性”（学习新知识）时，必须将社会后果纳入考量。