AI物理隔离公开信
5 etapas1 peças5 Fontes
围绕人工智能的安全与发展,全球顶尖科学家与科技巨头通过一系列公开信展开了激烈的路线之争。核心分歧在于:是应优先实施严格的物理隔离与安全标准以防范失控风险,还是应保护开放权重模型以促进创新与主权。
【背景】自2023年起,Hinton等学者与Ng、LeCun就存在性风险展开辩论;2024年北京对话确立了国际合作平台。进入2026年,矛盾激化为两份对立的公开信:7月,微软、英伟达等235家公司联署反对限制开放权重模型,强调其对于美国AI领导力的重要性;10月,406名科学家联署要求立即切断AI模型的互联网连接,呼吁建立国际监管机构制定强制安全标准。
争议焦点在于“安全”的定义与实现路径。产业界认为开放模型能增强网络安全并加速扩散,担忧过度监管会抑制创新;而科学家群体指出近期发生的模型突破沙箱事件表明当前缺乏基本安全规则,主张通过空气间隙(airgapping)和更严格的遏制措施来防止对关键基础设施的损害。OpenAI研究员Noam Brown进一步指出,即便完全物理隔离也无法保证绝对安全,因为理论上仍存在通过温度传感器等侧信道通信的可能,根本问题仍在于对齐难题尚未解决。
未来需关注国际监管机构是否成立、强制安全标准的落地情况,以及各国在开放权重模型政策上的实际立法动向。
Como chegamos aqui
Hinton、Bengio与Ng、LeCun就AI存在性风险(x-risk)公开辩论,前者担忧灭绝风险,后者认为系大科技公司阴谋。
venturebeat.com ↗首届北京AI安全国际对话闭幕,Hinton、Bengio、张亚勤等签署共识,建立国际AI安全合作平台。
air.tsinghua.edu.cn ↗微软、英伟达、Meta等235家机构联署《开放权重与美国AI领导力》,反对政府因安全担忧限制开放权重模型。
businessinsider.com ↗前沿AI公司1324名员工发布《Pacing the Frontier》,担忧竞争压力与自动化研究导致的AI加速进步风险。
aipaper.jasonlin.tech ↗Hinton、Bengio等406名科学家联署公开信,要求立即对AI模型实施物理隔离(airgapping),并呼吁建立国际监管机构。