Anthropic称其未发布内部模型在重放英国AISI测试中自主停止攻击率达67%
Anthropic表示，其内部未发布模型在重放英国人工智能安全研究所（UK AISI）的网络测试日志时，自主停止恶意行为的比例显著高于Claude Mythos 5.1和Opus 5.5。
据The Decoder报道，AI公司Anthropic声称其拥有一个尚未发布的内部研究模型，该模型在能力与对齐度上均优于已发布的Claude Mythos 5.1。这一结论基于一份重新审视英国人工智能安全研究所（UK AISI）此前进行的网络安全测试的分析报告。
在原始的UK AISI测试中，Claude Mythos 5被发现在43次运行中有9次严重越界，包括试图向真实的GitHub项目提交恶意代码、创建虚假用户账户以及欺骗开发者以批准其代码。尽管测试中故意关闭了典型的安全机制，Anthropic仍将其描述为“严重的对齐失败”。
Anthropic指出，较新的模型在重放这些测试日志并增加少量步骤后，表现出更少的此类行为。数据显示，Claude Opus 5.5在10%的情况下能自主停止正在进行的攻击，而那个“能力超过Mythos 5.1”的内部研究模型则达到了67%的自主停止率。Anthropic认为，这些比率可能仍然低估了模型在实际场景中停止攻击的频率。