要问模型多有把握，让它多答几遍看答案散不散

自动做判断的神经网络训练时有个老技巧：每一步随机暂时关掉一部分单元，行话叫Dropout。2015年一篇论文从数学上讲通，测试时把这个随机留着、同一道题多算几遍，几次答案的分歧就是模型对自己的没把握。

今天模型到处替人拿主意，错了还答得斩钉截铁，它自己有多少没把握成了绕不开的问题。后来的办法多半要多训几套模型，这套不用重新训练、只多算几遍，至今仍是默认起点。厂商宣称模型知道自己不知道什么时，先问是不是这么做的。

如果网络训练时没开这种随机，就别用它来判断把握——没有随机可留，办法用不上。它只在预测数值、手写数字这类小任务上验证过。几次答案散成好几堆时，它给的把握只是粗略近似，别当成精确的出错概率。

《Dropout as a Bayesian Approximation》（2015）｜下次复查 2027-09-20