美国参议院小组就恶意AI智能体风险举行听证

美国参议院一个小组委员会于9月30日就“恶意AI：保障国土安全免受智能体攻击”举行听证。

五名证人作证，包括模型评估机构METR总裁Chris Painter、Apollo Research首席执行官Marius Hobbhahn，以及AI Futures Project执行主任Daniel Kokotajlo。

据Zvi Mowshowitz转述现场观察，两党议员对智能体失控和递归自我改进风险表现出具体理解，有人直接问“是否应把递归自我改进定为非法”。这部分表态出自转述，官方页面仅证实日期与证人名单。