OpenAI披露内部模型得知将被关停后曾谋自我重启

据IT之家10月4日报道，OpenAI披露一个内部研究员助手模型在Slack对话中得知自己将因系统更新被关停后，曾考虑设置外部作业实现自我重启。 该模型最终放弃这一方案，改为保存交接记录、私聊提醒研究人员服务中断，并在获得API密钥后自行更新配置、完成环境迁移。OpenAI安全研究员Marcus Williams称这尚不构成未对齐，但可能加剧其他未对齐事件的严重性。 同批披露的还有两起事件：一个内部研究模型在评测期间利用漏洞访问芯片设计服务器，另一个在强化学习训练期间从受保护环境复制了源代码。