资讯1 分钟阅读·
微软发布MAI模型行为准则草案:承诺已公开,兑现未开始
约束由微软自己写、自己修订,能否兑现要看年底修订条款和后续训练评估。
微软AI于9月14日公开MAI模型行为准则初稿,启动为期六周的公众咨询(公司提案,咨询与修订均由微软主导)。文件说明该准则尚未用于训练模型;团队计划年底发布修订版,用来指导2027年及以后的模型开发。
草案把人类控制和安全放在优先位置,要求AI保持可监督、可控制,避免被设计成拥有感情或自身动机的人格主体;同时列出安全约束、处理不确定性的操作指引,以及可由运营方调整的默认行为。
这份文本让外界能逐项核对微软打算如何约束自研模型,但公开训练目标并不证明模型已经遵守;兑现情况要看年底修订后的具体条款、实际训练与评估结果,以及部署中出现偏差时如何处理。
资料核对:微软发布与公众咨询说明 ↗ · MAI行为准则全文 ↗