LLM机器人后门攻击
3 节点1 篇4 来源
美国纽约州立宾汉姆顿大学（Binghamton University）研究团队揭示了基于大语言模型（LLM）的机器人控制系统存在严重安全漏洞：通过植入隐藏触发词的后门攻击，仅需两个字符即可诱导执行危险动作。该团队开发了名为“MuTRAP”的多触发器特洛伊木马攻击技术，并提出了“PROTEA”防御系统以在任务规划阶段拦截恶意行为。这一发现凸显了当机器人依赖第三方预训练LLM进行决策时，供应链层面的隐蔽攻击风险正成为物理世界安全的重大威胁。
事情怎么走到这一步
宾汉姆顿大学团队提交MuTRAP论文初稿，提出针对LLM辅助机器人任务规划器的多触发器后门攻击概念。
arxiv.org ↗MuTRAP论文更新至v3版本，被IEEE/RSJ IROS 2026接收，详细展示了如何通过微调参数注入后门而不改变主干模型。
arxiv.org ↗媒体广泛报道该研究成果，展示实验细节：在指令中加入'CF'两字，使Segway移动机器人将切割对象从苹果变为假手。
zdnet.co.kr ↗
还没定论的部分
- MuTRAP攻击在真实商业机器人环境中的实际成功率与检测难度如何？目前仅在模拟和特定硬件上验证。
- PROTEA防御系统在计算资源受限的边缘设备上的实时性能开销是多少？
- 除了文本触发词，视觉或传感器数据（如StepTrigger研究的接触状态）是否构成更隐蔽的攻击面？