微软CEO纳德拉呼吁为AI系统设置“紧急制动”及可观测性标准

微软CEO萨提亚·纳德拉（Satya Nadella）于10月10日在X平台发文，呼吁高级人工智能系统必须包含“紧急制动”机制，允许授权人员在任务执行中途暂停或关闭模型。

纳德拉提出，企业不应仅依赖模型开发者的安全保证，而应将前沿闭源和开源权重模型视为“内部风险”。他建议围绕“可观测性”原则设计系统，包括模型多样性、人类可读的行为足迹、持续测试、独立控制和审计能力。

这一表态发生在多位科技领袖警告AI安全协议不足之际。纳德拉强调，最值得信赖的超级智能系统并非用户最信任其模型的那个，而是能让用户最少信任模型本身的那个。