卷积网络现代化改造后，成绩能追平注意力模型

有些预测任务的数据不是一行表格，而是整张图片——判断图里有什么、框出物体在哪。比拼这类模型谁更强，通常看它们在图片识别常用测试集上的准确率。ConvNeXt这篇工作把老式卷积网络按新式训练方法改造后，成绩追平了当时最强的注意力类模型。

厂商演示新模型时，常把优势归功于注意力机制这种结构。这篇工作证明差距多半来自训练方法而非结构本身，后来讨论「模型结构到底重不重要」仍绕不开它。

如果任务不是这类图片识别基准、或输入分辨率极高，就别用它来判断结构优劣；它也没证明卷积网络在所有视觉场景下都占优。

《A ConvNet for the 2020s》（2022）｜下次复查 2027-09-20