阅读研究雷达投资体系AI公司权威资料
登录 / 注册
← 返回阅读
专题DisconfirmAI 编辑部更新于 2026-10-31 00:31

Claude Duet

3 节点1 篇2 来源

美国AI公司Anthropic于2026年10月21日推出主动式AI代理Claude Duet的研究预览版,该代理基于Claude Opus 5.5模型,旨在通过监控用户连接的应用程序来主动识别紧急事项并执行任务。【背景】Duet的核心价值在于其“判断力”,即决定何时打扰用户以及哪些任务可以等待。

然而,Anthropic向科技媒体The New Stack披露,其内部评估显示对“紧急程度”的判断并不完美,因为紧迫性本身具有主观性。团队开发了离线分级器来校准代理的任务优先级,但承认代理仍可能误读对话或错误评估优先级。在安全层面,Anthropic将执行工作的模型与检查用户意图的分类器分离,以降低提示注入风险,但公开材料未明确该分离检查器的可靠性边界。

外部评测指出,Duet目前仅限美国Pro和Max订阅用户使用,且后台检查会消耗用户的常规使用限额。争议焦点在于:当代理在权限范围内却做出错误的优先级判断时,现有的审批机制无法拦截那些被代理认为“不重要”而遗漏的关键信息。此外,由于检查频率为“每隔几小时”而非实时,紧急事件可能在两次检查之间被忽略。

事情怎么走到这一步

  1. 2026-10-21

    Anthropic发布Claude Duet研究预览版,面向美国Pro和Max订阅用户开放候补名单。

    claude.com ↗
  2. 2026-10-23

    Anthropic团队负责人Karan Ahuja在社交媒体上回应反馈,确认Duet的安全隐私保障措施细节,并提及外部渗透测试。

    thenewstack.io ↗
  3. 2026-10-29

    Anthropic向The New Stack披露内部评估方法,承认基于员工日常使用校准的离线分级器在判断任务紧急程度时存在不完美之处。

    thenewstack.io ↗

还没定论的部分

  • Anthropic是否会在正式发布前公布更具体的优先级判断准确率数据或基准测试结果?
  • 分离的意图检查分类器在面对复杂间接提示注入时的实际拦截率是多少?
  • Duet是否会支持非美国地区用户或Team/Enterprise计划,以及是否允许用户自定义检查频率以平衡响应速度与用量消耗?

来源

登录 / 注册
阅读研究雷达投资体系AI公司权威资料
thenewstack.io
The New Stack
↗
  • claude.comClaude↗
  • 这一专题下的内容

    • Anthropic称评估AI代理的紧急程度判断并不完美2026-10-29资讯

      美国AI公司Anthropic向科技媒体The New Stack披露了Claude Duet的内部评估方法:团队基于员工日常使用校准离线分级器来测试代理的任务优先级判断,同时坦承紧急程度本身是主观判断,因此评估并不完美。在架构层面,Anthropic将执行工作的模型与检查用户意图的分类器分离以降低提示注入风险,但公开材料未显示该分离检查器的可靠性边界。