三大AI厂商拟共建前沿模型标准机构

据The Information报道，Google、OpenAI与Anthropic正接近设立一个独立机构，为前沿人工智能制定安全标准，暂定名为SAFA（前沿AI标准局）。

报道说，该机构计划独立运作，填补政府监管的空白。三家厂商还讨论过一项安排：互相测试对方已商用的AI模型，寻找漏洞和异常行为，并限制测试期间获取数据的留存。

此事尚无任何一家公司官方确认，机构名称也是暂定的。同日，OpenAI首席执行官Sam Altman与Anthropic首席执行官Dario Amodei在联合国安理会就AI安全发言，Altman称AI重大决策应由民主机构和政府主导，Amodei呼吁就新模型测试达成国际协议。