阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯快讯2 分钟阅读DisconfirmAI 编辑部

AWS工程师Chambers:一次前向传播的决策模型可让智能体跳过不必要的记忆检索

AWS高级AI DevEx工程师Mike Chambers在AGNTCon + MCPCon 2026上介绍了一种模式:用决策模型(decider model)在智能体的记忆检索前做一次轻量判断,对问候等简单输入直接跳过检索调用。决策模型通过单次前向传播返回校准概率分数,不生成自由文本,可像带语言理解能力的if语句一样嵌入代码分支。Chambers强调该实验仍处于早期阶段,分数可靠性需开发者自行验证。

2026-11-20 09:37

对AI智能体说一声早上好,它可能会先去长期记忆里搜索一番再回复你。某个服务在后台执行语义检索,试图判断你的问候是否需要理解你的饮品偏好。即便你对咖啡极其认真,为两个词动用这么多基础设施也显得过度。

AWS高级AI DevEx工程师Mike Chambers在AGNTCon + MCPCon North America 2026上向The New Stack主编Nick Lucchesi介绍了一种应对思路:用决策模型(decider model)来处理智能体内部那些不断累积的小判断。这类模型也被称为判断模型或系统一模型,它们从固定选项中选择或对输入进行评分,返回校准概率而不生成自由文本。这个概念由TypeSafe AI的Jev推广,AWS的Strands Labs在10月1日发布了开源的Strands Decider 2B,参数量为二十亿。

Chambers把这种方法描述为代码里有一个由智能体驱动的、带语言感觉的if语句。开发者使用分类器已有多年,但这一代决策模型的不同之处在于:通用预训练让你无需先训练自己的模型就能尝试新的分类任务。你提供自然语言上下文,提出一个问题,得到一个数值分数,应用程序据此选择分支。在Chambers描述的模型中,这个分数在单次前向传播中返回,没有token序列需要生成。

这使得决策模型适合放在每个请求的关键路径上。Chambers用开源的Strands框架和Amazon Bedrock AgentCore Memory做了实验:把Strands Decider放在记忆查找前面,判断传入的消息是否需要从过去的对话中获取信息。问候可以直接通过;依赖用户先前所说内容的请求仍然触发搜索。他还在检索之后使用决策模型:记忆服务可以返回最相关的匹配结果,但有些可能与当前任务关系不大,决策模型可以在智能体将结果纳入上下文之前对每条结果进行相关性评分。

一个决策可以省掉一次服务调用,另一个可以让模型少处理无关材料。模型路由器也可以用分数把常规提示发给较小的模型,把更复杂的任务留给能力更强的模型,节省来自路由决策本身和它省下的下游工作。

但Chambers明确称他的记忆实验为实验性的。一个可预测JSON字段中的数字让决策模型容易接入应用,但那个数字是否可靠到足以据此行动,需要测试。

数字是否正确?这需要你的测试来搞清楚,他说。当风险升高时——智能体即将花钱,而不是推荐一杯咖啡——Chambers主张在智能体循环之外设置检查,对难以逆转的决策要求人工批准。

来源

  • thenewstack.ioThe New Stack↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系