姚顺雨AI生物安全警告

腾讯首席AI科学家姚顺雨（Vinces Yao Shunyu）近日发出警告，称人工智能即将具备开发生物武器的能力，且完全开放或封闭的模型均无法独立解决此安全隐患。【背景】姚顺雨指出，随着AI在生物学领域的能力逼近“可造成实质伤害”的阈值，攻防能力的界限比网络安全更为模糊。他主张采取混合策略，并透露腾讯即将发布的Hy4模型将通过在训练阶段过滤危险知识来抵御“消融”攻击，而非仅依赖后期对齐机制。这一表态正值中美AI巨头就开源模型安全性展开激烈辩论之际，Anthropic等公司坚持闭源以防范风险，而姚顺雨认为开源模型在协助防御方面具有不可替代的价值。