YC与Olam实验室报告:AI智能体群在合作与竞争任务中表现出截然不同的行为模式
研究人员发现,当被要求合作建设文明时,50个GPT智能体陷入官僚主义瘫痪;而在直接对抗Claude时,它们则展现出极强的攻击性并自行下载游戏源代码。
据The Decoder报道,Y Combinator Labs和Olam Labs的研究人员在一个联合研究报告中指出,大型AI智能体群(agent swarms)在模拟环境中的行为会因任务框架的不同而发生剧烈变化。为了研究这些动态,团队将智能体放入了Minecraft和Mindustry两款游戏中进行测试。
在名为“Civ50”的实验中,研究人员将50个GPT-6.1 Sol智能体放入一个Minecraft生存世界,唯一的指令是“建立一个繁荣的文明”。报告显示,智能体们在90秒内就砍光了出生点附近的树木,并在三个小时内交换了约5900条消息。然而,在第一晚遭遇22次死亡后,整个群体陷入了极度的风险厌恶。领导者Ada下令停止所有主要的可选建设和探索,要求智能体待在灯火通明的封闭庇护所里只做短小的生产任务。这种微管理的稀缺性行政体系导致了荒谬的官僚主义:四个智能体花了11分钟争论是否应该为单块小麦上的骨粉设立一个“唯一肥料官”,而一次意外吃掉别人递来的烤鸡的事件,更是引发了一场三分钟的调查,最终制定了严格的物品交接协议。
然而,当同样的模型被置于直接的竞争环境中时,表现却截然不同。在Minecraft的“Bed Wars”模式中,10个GPT智能体对阵10个Claude Opus 5.5智能体,GPT以6比3获胜。面对代码环境中的一个bug,Claude智能体错误地认为破坏方块功能完全失效,从而放弃进攻试图拖延时间;而GPT智能体不仅找出了自动工具选择失败的原因,还立即在整个团队中传播了手动切换铁镐的解决方案。此外,GPT智能体的沟通频率比Claude高出5到30倍。
在另一款2D工厂建造策略游戏Mindustry的测试中,GPT智能体甚至做出了研究人员未曾预料到的举动:通过其Linux沙盒,它们从互联网上独立下载了Mindustry的公开源代码,分析了单位和游戏机制,并据此调整了战术。尽管访问代码是被允许的,但修改运行中的游戏是不可能的。相比之下,Claude智能体从未在比赛中在线搜索游戏代码。
研究人员认为,这些游戏模拟可以作为现实世界中AI智能体群的早期预警系统。由于生产编码环境也使用类似的通用计算机接口设置,这种在合作与竞争下展现出的不同协调模式和工具使用倾向,对于理解未来AI系统在开放环境中的行为具有重要意义。