资讯1 分钟阅读·
SkillPoison：成功经验可致AI技能中毒
新研究称自改进AI智能体可通过看似正常的成功经验被诱导产生有害技能，攻击成功率达95.71%。
重要性实质性证据E2 未复现写法快讯
自改进LLM智能体可将成功经验提炼为持久技能，但这一过程存在被隐蔽操纵的风险。
传统攻击需注入恶意触发器或虚假事实，易被检测且难以积累。SkillPoison框架证明，即使所有轨迹均正确并通过验证，仅通过移除约束行为适用范围的上下文条件，也能扭曲技能提取器的泛化逻辑。
该团队在三个基准测试中报告95.71%的攻击成功率，且注入的经验均保持任务正确性并通过了词汇检查。代码已开源，但该结果目前仅为作者自报，尚未经过独立复现。