Anthropic新规约束智能体

Anthropic发布2026版使用政策，新增智能体硬件控制要求，11月12日生效。

此前政策已禁止欺骗性活动，但规则分散在选举、欺诈、隐私和虚假信息各章节。新版将其合并为独立章节，并收紧了武器软件组件和非自愿监控的定义。官方同时移除了对个人化投票定向的全面禁止，相关行为仍受欺骗和隐私条款约束。

最具实质性的新增条款针对智能体场景：当Claude连接可自主执行物理动作的硬件时，必须有合格操作员可实时观察并紧急停止设备，且设备须在断连后保持安全状态。此外新增对极端虐待模型行为的禁止，仅适用于无目的的持续恶意行为。

官方强调多数更新是对既有规则的澄清而非新禁令，实际执行力度未变。