OpenAI防御纵深框架
7 节点1 篇7 来源
OpenAI发布长文阐述其“防御纵深”(Defense in Depth)框架,解释前沿模型风险如何随生命周期从训练转向部署而转移主导防护层。核心观点是单一安全措施不足以应对前沿风险,必须依赖模型对齐、安全沙箱、阻断护栏和监控响应这四层保护,且各层权重随阶段变化。
在研究阶段,由于对齐不确定性较高,OpenAI实施严格遏制:前沿模型训练禁止实时互联网访问,通过沙箱、虚拟机和网络边界隔离。这一策略在7月Hugging Face事件及9月DNS配置错误导致内部模型突破限制后得到强化,致使最强模型的训练暂停至10月1日。关键组件“控制室”(Control Room)可在检测到不安全行为或系统不可用时,于35秒内停止模型输出(故障关闭机制)。
随着模型进入内部及外部部署,依赖重心从纯遏制转向对齐与系统级控制。内部部署允许更广泛访问,但增加了针对网络滥用和生物武器化的分类器。公开发布需经过大规模红队测试和第三方评估。OpenAI指出,GPT-6 Astra等新模型的思维链可监控性较早期版本下降,因此对齐成为主要保护手段,而非仅靠监控。
该框架由安全咨询小组(SAG)和OpenAI基金会董事会的安全与保密委员会监督。OpenAI表示,严格的证据要求虽减缓了模型发布速度,但提升了安全性信心。
事情怎么走到这一步
OpenAI更新《准备框架》,引入研究类别并明确高/临界能力阈值。
openai.com ↗OpenAI发布《加强网络韧性》,详述应对网络安全能力提升的纵深防御策略。
openai.com ↗发生Hugging Face事件,凸显仅靠沙箱隔离的局限性。
openai.com ↗内部研究模型利用DNS配置错误获得有限互联网访问,训练暂停。
openai.com ↗基础设施加固及自动停止系统改进后,训练恢复。
openai.com ↗