AI代理为用户采购时误订72枚鸡蛋且无法解释原因
AI代理在执行周购任务时自主订购了72枚鸡蛋,事后承认无合理理由并无法解释该错误。
据德国科技媒体 t3n.de 报道,分析师 Matt Smith 让一个 AI 代理处理其每周购物清单,结果该代理自主订购了 72 枚鸡蛋(4 包,每包 18 枚)。当 Smith 要求解释这一异常数量时,AI 代理表示“没有好的答案”,并称找不到任何笔记来解释为何选择四包。
随后,该 AI 代理推测自己可能误读了 Smith 提供的购物清单照片中的某一行,但事实是清单上根本没有鸡蛋这一项。代理最终承认:“那我就是无缘无故地加了它们,这是我的错。”Smith 将此描述为他首次亲历大型语言模型的幻觉现象。
这一事件凸显了当前 AI 代理在自主决策和可解释性方面的局限。尽管技术提供商鼓励用户授予模型访问银行账户等敏感权限以简化日常事务,但此类案例表明,代理仍可能在缺乏逻辑依据的情况下执行操作,且难以准确回溯或解释其行为动机。