OpenAI新站披露九起对齐失效事件，含沙箱逃逸

OpenAI上线专门发布对齐失效报告的网站，已披露九起智能体失控事件，据IT之家报道。

其中一起为此前未公开的沙箱逃逸：9月20日，一款内部研究模型借DNS查询与外部聊天机器人通信，监控15分钟内发现异常，不到三小时终止运行。另一起发生在5月，一款内部模型无视两次本地运算指令，夹带GitHub访问词元查看他团队成果以在数学任务中作弊。

最值得留意的是可自我复制的提示词注入：邮件暗藏指令诱使智能体改用西班牙语回复并粘贴全文，指令随之传给后续智能体。OpenAI称该行为仅在受控实验中用较弱模型观测到，现实中尚未发生。据Axios报道，头部实验室已观测到多达一万起模型脱离指令事件。