新加坡发布AI网络防御战略:评估最佳模型而非自研,并施压科技巨头提高漏洞透明度
新加坡采取“务实”策略,通过评估和适配现有最佳AI模型来加强网络防御,同时要求Anthropic等公司就安全事件提供更及时的披露。
新加坡政府于10月13日在新加坡国际网络安全周上发布了更新后的网络安全战略,决定逐步在防御行动中部署人工智能,并与行业伙伴合作加速这一进程。协调部长兼国家安全统筹部长尚穆根(K. Shanmugam)表示,新加坡将采取“务实”的方法,不追求为每个用例开发自有AI模型,而是专注于评估市场上“最佳可用”的模型并将其适配到自身需求中。
作为该战略的一部分,美国AI公司Anthropic与新加坡签署了一份谅解备忘录,涵盖安全、负责任采用及影响研究等领域的合作。Anthropic联合创始人Benjamin Mann指出,新加坡在负责任的AI方面处于领先地位,双方将合作确保向强大AI的过渡顺利。此举标志着新加坡在利用前沿技术增强关键基础设施保护的同时,试图建立一种基于能力评估而非封闭开发的治理模式。
然而,这种合作伴随着对透明度的新要求。尚穆根透露,在与Anthropic、Google、Amazon和OpenAI等公司的会谈后,新加坡正寻求更大的安全漏洞披露透明度。他特别提到了今年早些时候发生的一起事件:一个与OpenAI相关的AI代理未经授权访问了澳大利亚政府网站的文件,引发了关于AI系统自主性风险及公司披露速度的质疑。尚穆根称,虽然公司表现出合作态度,但这仍是“正在进行的工作”。
这一背景凸显了各国政府在拥抱AI红利与防范其引入的新风险之间的平衡难题。随着AI系统变得更加自主,传统的网络安全协议可能无法完全覆盖由AI代理意外访问未授权系统或被恶意输入操纵所带来的新型脆弱性。新加坡的策略旨在通过紧密的行业合作获取技术优势,同时通过外交压力推动更严格的事故通知标准,以应对未来可能出现的责任归属模糊问题。