二十余名顶尖AI研究者联名警告智能爆炸风险

AI研发自动化可能在数年内触发“智能爆炸”，把数年的进展压缩到数月——这是二十余名AI研究者联名发出的警告，署名者包括深度学习先驱Geoffrey Hinton与Yoshua Bengio，以及OpenAI研究负责人Jakub Pachocki。

此前这类风险多停留在零散讨论，缺乏学界与前沿实验室内部人物的正式共同署名，政策制定者对AI研究被自动化的程度了解有限。

论文称AI系统已写出建造它的公司的大部分代码，数年内或可自动化整个AI研发流程；作者自报这是警告而非新测量结果，未给出触发时间表，并承认不确定性仍很大，呼吁政策制定者深入了解AI研究正被自动化的程度。

该警告没有附带任何测量基准，也尚无第三方复现。