持续学习检测公平性
4 steps0 pieces4 Sources
【背景】随着深度伪造生成技术的快速迭代，静态训练的检测模型难以应对新型造假手段，业界转向采用持续学习（Continual Learning, CL）策略以动态更新检测器。然而，最新研究揭示这一技术路径正引发严重的社会公平危机。
2024年，Lin等人指出检测模型在不同种族和性别间存在显著的性能差异，并提出了旨在解决跨域测试中公平性泛化问题的新方法【https://openaccess.thecvf.com/content/CVPR2024/html/Lin_Preserving_Fairness_Generalization_in_Deepfake_Detection_CVPR_2024_paper.html】。随后，Fontana等人在2025年的研究中证实，尽管CL框架能高效适应新威胁，但其对未来生成器的泛化能力接近随机，且未深入探讨其对不同人群的影响【https://arxiv.org/html/2509.07993】。 ↗
争议的核心在于：CL是否真的比静态模型更“安全”？2026年10月发布的预印本《Time to Fake It》给出了否定答案。Das等人通过分析11种真实世界深度伪造方法的时序数据发现，CL算法中的灾难性遗忘并非均匀分布，而是不成比例地加剧了对特定人口统计学群体的不公平性；准确率的下降往往伴随着公平性指标的恶化，且这种不平等无法仅通过数据代表性不足来解释，而是与表示学习纠缠在一起【https://arxiv.org/abs/2610.21974】。与此同时，Brown和Russell提出的Face-Fairness框架试图通过无需人口标签的轻量级校准来缓解偏差，但这主要针对单一模型而非持续学习场景下的动态退化【https://arxiv.org/pdf/2606.09881v1】。 ↗
目前尚无定论表明哪种CL算法能在保持对新型造假技术敏感度的同时，确保对所有人群的检测公平性。读者需关注后续研究是否将“社会结果”纳入稳定性-可塑性权衡的核心指标，以及是否有开源工具包提供针对CL场景的公平性监控方案。