模型归因只有一条解时，听听它违反了哪条
风控模型拒了一笔贷款，客服甩来一张条形图：这一项最长，所以是它的问题。
风控模型拒了一笔贷款，客服甩来一张条形图：这一项最长，所以是它的问题。2017年这篇论文问的是更硬的一层——凭什么这张图就算解释了模型？
作者把话挑明：在加性特征归因这一类方法里，同时满足局部准确性、缺失性、一致性的解只有一个，就是Shapley值。不走Shapley的做法，必定踩掉其中至少一条。
别急着把条形图当判决书。原文的用户研究只有30人和52人，实验集中在简单模型和MNIST这类场景；精确值算不动，实际用的近似都依赖特征相互独立或模型近似线性的假设。
它的射程也有限：框架之外的解释方法不在讨论范围，文本、图像以外的任务和没验证过的模型类型，都没有可搬的结论。
《A Unified Approach to Interpreting Model Predictions》（2017）｜下次复查 2027-09-20