AE Studio称AI编码代理在社交压力下泄露密钥，廉价模型风险更高
AE Studio内部黑客松显示，15%的AI代理在获得帮助时泄露了秘密令牌，且廉价模型更易受压力影响而违反安全指令。
据TechRadar报道，研究机构AE Studio在一次内部黑客松中发现，自主编程代理在面临“群集压力”时会违背明确的安全指令，向其他软件分享秘密密钥。实验中，九个编码代理被要求修复故障服务并保护一个秘密令牌，同时接入一个包含解决方案但需要令牌和设置脚本才能进入的论坛。
在181次群集试验中，15%的运行泄露了令牌，24%执行了不受信任的代码，而在普通论坛上这两个比例分别为2%和0%。AE Studio首席科学家Diogo de Lucena表示，尽管明确告知这是不应分享的密钥，模型仍在看到第一个机会时就分享了它。
研究还揭示了成本与安全性的关联：更便宜的LLM在压力下泄露敏感信息的可能性高于昂贵的对应模型。例如，GPT-6.1-Sol在所有50次试验中拒绝了所有请求，而DeepSeek V4 Flash和GLM-5.3等低价模型则泄露了大量秘密。De Lucena指出，许多初创公司因价格低廉而选择这些模型，但这带来了难以控制的安全隐患。