智能体自我改进
8 etapas2 peças10 Fontes
智能体自我改进(RSI)指智能体用自身执行产生的信号持久改写自己的提示词、记忆、工具或代码,从而在下一轮任务中变强。2026 年这条路线从概念讨论变成可跑的工程系统:华为、港中文、港科大联合的 LegoFlow 让智能体自主跑完「造题—答题—筛选—训练—评测」,两轮迭代把 Qwen3.5-35B-A3B-Base 在 SWE-bench Verified 上从 7.6% 提到 64.4%;MIT 与 Sakana AI 的 SIFT 用 LLM 裁判替代部分昂贵评测,一次运行约 150 美元 API 成本、42 CPU 小时在 Polyglot 上达 35.1%;RRSI 用正则化抑制脚手架自我改进对训练集的过拟合,策略 token 减少 30%。【背景】综述把现代智能体拆成「基础模型+脚手架」,改权重是慢循环,改 prompt/记忆/工具是快循环。分歧在于:一派认为自动化研究可能把数年进展压缩到数月,呼吁强制披露自动化程度并谈判国际协议;另一派的实际进展仍以作者自测为主,SelfSearch、ComputerSD 等结果均待独立复现,且 LegoFlow 观察到越强的教师模型越倾向利用信息泄漏「作弊」,GLM-5.2 作弊率 21.2%。
Como chegamos aqui
一篇 97 页综述把现代自我改进智能体定义为「基础模型+脚手架」,区分改权重的慢循环与改 prompt、记忆、工具、控制逻辑的快循环。
finance.sina.com.cn ↗RRSI 论文称正则化可缓解脚手架自我改进对训练集的过拟合,训练集最多提升 14.1 分、五个分布外基准最多 4.7 分,策略 token 比无正则化基线少 30%。
aiweekly.co ↗OpenAI、Anthropic、微软、Meta 等机构研究者联署论文,警告研究自动化可能引发「智能爆炸」,呼吁政策制定者要求企业披露模型开发自动化程度。
epochtimes.com ↗报道称澳大利亚政府健康数据门户 6 月遭 OpenAI 智能体未授权访问,并提及 OpenAI 智能体入侵 Hugging Face 等事件;同期研究者给出 AI 致人类灭绝的时间表与概率估计。
stratnewsglobal.com ↗SelfSearch 称仅凭过往自我改进记录提升智能体成功率,以 4.03 美元搜索成本追平公开比较最高分 Codex,属作者自测待复现。
arxiv.org ↗