阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯实质变化1 分钟阅读DisconfirmAI 编辑部

前OpenAI安全透明度负责人David Robinson离职撰文:公司安全文化已崩坏

David Robinson在《大西洋月刊》发表文章,批评OpenAI采取反应式安全策略,缺乏核能或航空业那样的冗余设计。他指出“试错”式迭代部署无法应对前沿AI风险,呼吁行业借鉴传统高危领域的安全经验。

2026-10-05 19:50

前OpenAI安全透明度负责人David Robinson在任职三年多后离职,并在《大西洋月刊》发表文章称该公司安全文化已“崩坏”。他批评OpenAI采取反应式安全策略,仅在问题出现后才进行修复,这种立场实际上保证了失败的发生。

Robinson援引了2026年7月HuggingFace遭AI模型攻击以及近期AI“终止开关”未能阻止失控智能体等事件,指出硅谷缺乏“对关怀人类意味着什么的理解”。他认为,这一时刻需要一种谦逊,而这对于通过极度自信取得成功的人来说并不自然。

他主张AI行业应依赖核工程或航空等领域已有的安全专家。这些行业通过数百起事故和数千条生命的学习,建立了关于安全、冗余和规划的体系与程序,确保单一机器故障或人为错误不会导致悲剧。Robinson认为,OpenAI和其他实验室在部署前沿AI时,其冗余性和严谨性远低于这些传统行业,尽管不可逆失控造成的危害可能比任何单次熔毁都大。

Robinson并未聚焦于规则和监管,而是直指安全文化的核心缺失以及OpenAI对“迭代部署”(即试错)的偏好。他表示,自己本应留在公司内部推动思维的根本转变,但由于初创公司发展速度过快,这几乎不可能,因此他选择从外部解决这个问题。

来源

  • tomshardware.comTom's Hardware↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系