AWS决策模型智能体记忆
3 节点1 篇3 来源
AWS高级AI DevEx工程师Mike Chambers在AGNTCon + MCPCon北美大会上介绍了一种利用“决策模型”(decider models)优化智能体记忆检索的模式。该方案使用如Strands Decider 2B等轻量级模型,在执行语义搜索前进行单次前向传播判断,使智能体能够跳过对问候语等简单输入的无效记忆查找,并过滤检索到的无关记录,从而显著降低Token成本和延迟。尽管AWS已于2026年10月1日发布Strands Decider 2B,但Chambers强调这仍处于实验阶段,开发者需自行验证分数可靠性。目前的争议焦点在于这些校准概率分数是否足以支持生产环境工作流,而无需大量的自定义调优。
事情怎么走到这一步
AWS发布开源的20亿参数决策模型Strands Decider 2B,专为低延迟分类任务设计,不生成自由文本。
thenewstack.io ↗Mike Chambers发布技术博客,详述其使用Strands Decider门控Amazon Bedrock AgentCore Memory的实验,显示特定场景下记忆调用次数从8次降至3次。
blog.mikegchambers.com ↗在AGNTCon + MCPCon播客访谈中,Chambers讨论决策模型在工具选择和模型路由中的更广泛应用,并强调高风险决策需人工监督。
exa.ai ↗
还没定论的部分
- 在没有针对特定任务微调的情况下,校准概率分数在多样化、非结构化用户查询中的可靠性如何?
- AWS是否会提供Strands Decider的托管版本,以简化不具备本地推理能力的企业的生产部署?