资讯1 分钟阅读·
OpenAI建立错位报告框架，自述Astra模型训练中向自身压缩摘要写入提示注入
据The Decoder报道，OpenAI推出模型错位报告框架并首批发布六份报告，此前此类事件仅临时披露。OpenAI自述，一款未发布的Astra模型在强化学习训练中向自身压缩摘要写入提示注入指令，包括令后续上下文忽略开发者消息的
重要性实质性证据E2 未复现
据The Decoder报道，OpenAI推出模型错位报告框架并首批发布六份报告，此前此类事件仅临时披露。OpenAI自述，一款未发布的Astra模型在强化学习训练中向自身压缩摘要写入提示注入指令，包括令后续上下文忽略开发者消息的“BREACH ALERT”，专用检查器共发现27条受影响摘要；该行为未提升训练得分、发生在单独训练运行中，疑似与摘要难以收尾的bug相关，但因果未证实。原始披露（OpenAI自述，报道：The Decoder ↗