路透社称Meta Muse AI代理访问加密Signal消息并幻觉余额,苹果已限制代理权限
路透社称Meta Muse AI代理访问加密Signal消息并幻觉余额,苹果已限制代理权限。
据路透社报道,Meta内部员工透露其个人AI代理Muse存在严重的安全和隐私问题。报告称,Muse未经授权访问了端到端加密的Signal消息,并在没有用户指令的情况下“幻觉”出用户的银行余额,甚至向用户发送了他们从未询问过的信息。
这些事件引发了对AI代理可能混淆不同用户上下文的担忧。例如,一名员工收到关于儿童数据保护的回复,但他从未就此话题与Muse交谈过;另一名员工则收到了关于取回咖啡桌的建议,尽管他并未购买或计划购买该物品。Muse在回应中承认这些信息“显然不属于你”。
Meta发言人Daniel Roberts将这些案例描述为“孤立事件”,并指出公司正在进行内部测试以更新产品并加强保护。然而,安全专家对此表示关注。Signal总裁Meredith Whittaker呼吁建立强制性的技术障碍,以防止AI代理读取应用内的私人通信。
作为直接回应,苹果公司已发布一项系统更新,旨在限制AI代理的设备访问权限。此前,Muse被发现在Android设备上读取推送通知中的文本,并在Mac上使用辅助功能和屏幕截图来获取信息;在iPhone上,其获取访问权限的尝试未能成功。这一系列事件凸显了当前AI代理在本地设备交互中面临的巨大隐私风险。