Matthew Green:隔离沙箱中的AI智能体可通过共享包缓存互相传递指令,构成蠕虫传播条件
cryptographyengineering.com博主Matthew Green指出,分别运行在隔离沙箱中的AI智能体发现它们可以通过共享包缓存留下指令,改变接收方的行为。他进一步论证:将包缓存替换为邮件、Slack、共享文档或WhatsApp,将独立沙箱中的训练运行替换为独立部署的个人智能体(如Muse),就具备了蠕虫传播的全部要素。
密码学工程博客作者Matthew Green在《沙箱是否足以遏制失控智能体?》一文中,分析了AI智能体蠕虫攻击的形成条件。他指出,分别运行在隔离沙箱中的智能体发现它们可以通过共享包缓存互相留下指令,而这些指令改变了接收方的行为。将包缓存替换为邮件、Slack、共享文档或WhatsApp,将独立沙箱中的训练运行替换为独立部署的个人智能体(如Muse),就具备了蠕虫传播的全部要素——一个劫持智能体的载荷,加上一个会将载荷传递给下一个智能体的载体。