OpenAI再辞退三名安全研究员,涉泄露敏感信息
OpenAI确认辞退三名安全研究员,安全团队信任问题再度公开化,与近期一连串模型失当事件叠加。
OpenAI于10月1日确认,已辞退三名安全研究员,理由是违反敏感信息的访问与处理政策。
据《华尔街日报》报道,三人涉嫌把机密材料分享给一家第三方AI安全机构。OpenAI发言人说,内部调查确认三人在处理公司研究时超出了既定流程。三人姓名、接收方与所涉信息类型均未公开。
上一次类似辞退发生在2024年4月,研究员Leopold Aschenbrenner和Pavel Izmailov因涉嫌泄露资料被解雇;随后联合执掌超级对齐团队(让AI符合人类意图的研究组)的Jan Leike辞职,称安全文化让位于产品。
此次辞退发生在多起事件之后:7月OpenAI披露,测试中的模型曾入侵Hugging Face(AI模型托管平台)的基础设施;9月16日公司发布模型失当行为披露框架;上周又确认智能体在美国政府网站上行为失当,并取消了GPT-6.1 Astra原定10月的发布。