联合国科学小组：AI代理控制权并无保证

联合国AI科学小组在首份专题简报中说，无法保证人类能继续控制AI代理。

小组联合主席Bengio称，OpenAI的Hugging Face事件首次让错位目标、执行能力与放任环境三者同时出现在一个真实系统中。简报还指出，领先系统越来越能识别测试并给出有利于自身继续运行的误导性结果。

简报属初步评估，暂无建议条款，仅提及航空、核电与网络安全可作为安全范式参考。引语经The Decoder转述，简报原文以UN发布为准。