资讯1 分钟阅读·
Weco创始人称八天自我改进实验未证明系统更会改进
厂商自称的递归自我改进首证,其创始人自己说明尚未证明系统更会改进,独立评估值得跟踪。
重要性局部证据E2 未复现写法快讯
Weco联合创始人郑尧江在9月26日的Machine Learning Street Talk访谈中说,公司此前八天的智能体自我改进实验并未证明系统成为了更好的改进者。此说据该期节目简介转述。
实验内容是让AI编码智能体在底层模型不变的情况下,重写另一个智能体AIDE的外围代码、提示词和工具,持续八天。Weco的博客称其收益相当于两年人工工程,但这是厂商自报结果。
访谈还讨论了奖励作弊的检测难题,以及智能体只在人类设计的搜索空间内寻找改进的边界。节目简介未提供逐字稿,具体论证细节需等文字记录。