阅读研究雷达投资体系AI公司权威资料
登录 / 注册
历史阅读归档 →

阅读

2026-11-0368 条

刷新

高盛限制交易员和银行家使用AI编程工具,仅向工程师开放

专题 · 高盛AI编程限制实质变化
2026-11-03 04:00

据彭博社报道,高盛集团已切断大多数员工对Anthropic的Claude Code和微软GitHub Copilot等高级AI编程工具的访问权限。根据10月份发布的内部指导方针,目前只有工程师可以继续使用这些工具。此前数月,交易员和银行家曾利用这些工具监控交易流程并创建内容。这一政策回调据报道在该公司内部引发了不满情绪。

这一决定标志着高盛在AI应用策略上的显著转变。今年7月,高盛首席信息官Marco Argenti曾在采访中公开赞扬非技术员工的“氛围编程”(vibe coding),设想交易员或资产管理人员通过AI快速构建原型,再交由工程师进行生产环境扩展。然而,目前的政策似乎已不再支持这一计划。

对于此次政策逆转的原因,彭博社援引高盛发言人Nick Carcaterra的说法,称这是出于“包括生产力和风险管理在内的多种因素”。Carcaterra补充说,公司的实验阶段已经结束,现在将工具限制在“最适合长期利用它们的人”手中。这一变化反映了大型金融机构在生成式AI从广泛试验转向受控部署过程中面临的实际治理挑战。

信息源:The Decoder

研究

工程师 Venkatesh Rao:AI 精英正在像重商主义者囤积黄金一样囤积智能

实质变化
2026-11-03 03:43

重商主义的核心信念是:财富是固定的,黄金总量不会增加,因此一国之得即他国之失。在这种逻辑下,普通人的价值只体现为劳动力,而精英的职责是管控稀缺资源、维持高价、阻止对手获取。工程师 Venkatesh Rao 认为,今天许多 AI 精英对待智能的方式与重商主义者对待黄金如出一辙:把智能视为稀缺的、危险的资源,应当由专家来管理、保持昂贵、并对竞争对手保密。在他们眼中,开源 AI 模型不是技术进步,而是威胁。

Rao 的类比不止于诊断,还指向一个历史转折。早期资本主义取代重商主义后,人们并没有因为财富不再被当作固定总量而停止工作,反而自愿增加了劳动时间——为了买茶或糖,年工作日从 250 天增加到 300 天。Rao 认为 AI 可能触发类似的变化:不是因为人们失去了工作,而是因为 AI 让以前太昂贵或太难的项目变得可行,人们可能会思考更多而非更少。对想法的需求会增长,而不是让人变得多余。

这个论证的政策含义是明确的:Rao 主张,AI 的政治焦点应当是确保公平获取,而非保护旧有的知识工作岗位。保护岗位意味着把智能当作固定资源来分配;确保获取则意味着承认智能的总量可以随工具改进而扩大。他甚至认为,AI 智能体自身也可以追求自己的项目,从而创造对智能的新需求——自主 AI 需要护栏,但不应只是服从命令。

需要指出的是,这是 Rao 的一个概念类比,不是经过实证检验的经济模型。重商主义与 AI 之间的对应关系是修辞性的:它照亮了某些动机结构,但不能证明智能的实际经济行为确实像黄金。智能是否具有排他性、AI 是否真的会扩大而非替代人类思考需求,这些是经验问题,类比本身无法回答。但作为理解当前 AI 政策争论的框架,它提供了一个有用的视角:当某位 AI 高管以安全为由反对开源模型时,值得追问的不仅是安全论据是否成立,还有这是否也是一种资源管控逻辑的现代变体。

信息源:The Decoder

研究

AI制药公司水木分子提出ChatDD范式:让专家经验通过对话进入AI全流程

专题 · 水木分子ChatDD范式实质变化
2026-11-02 14:28

药物研发有一个广为流传的三「十」定律:一款新药平均需要十年时间、超过十亿美元投入,成功率却不足百分之十。水木分子COO邢杰在央视节目中引用这一数字时,真正想指向的问题比成本更具体——一个药研专家积累了几十年的经验,如何才能让AI真正用起来?

水木分子首席科学家聂再清认为,过去AI药物研发项目中的关键隔阂恰恰出现在这里。模型可以预测结构、生成分子、给候选结果排序,但研究者未必能充分理解排序依据,也很难把自己的顾虑反馈给模型。计算结果可以交给实验验证,专家与算法之间却缺少持续协作的通道。这意味着AI制药的瓶颈不只是单点预测精度,而是整个科研工作流的组织方式。

水木分子由此提出了药物研发的四阶段划分:TMDD(依赖实验积累与专家判断)、CADD(计算机辅助计算与模拟)、AIDD(AI用于性质预测和分子生成)、ChatDD(专家通过自然语言对话参与任务规划、执行与结果修正)。前三代中,专家经验和直觉很难与AI模型有效交互和有机融合;ChatDD试图让专家提出问题和任务目标,大模型进行拆解并调用工具,再把结果交回专家,多轮交互下来,专家经验得以高效参与AI制药的每一步。

这一框架的落地依赖几个具体技术层。水木分子与清华AIR联合推进的BioMedGPT探索自然语言与分子、蛋白质等生物数据的对齐,其中BioMedGPT-10B是全球首个开源可商用的百亿参数多模态生物医药大模型。入选NeurIPS 2024的MutaPLM将突变影响的文字描述与蛋白质突变对应起来,既解释一次突变可能带来什么变化,也根据研究者描述的目标提出候选突变。被ICML 2026接收的CodeFP关注功能性蛋白质的序列与结构协同设计,AbGaze则探索抗体全原子端到端从头设计。

在模型底座之上,水木分子将专家通过对话描述的研究方法整理成AI智能体可随时调用的技能包。今年发布的首批OpenBioMed技能包囊括45项专业技能,覆盖生物化学与药物研发、蛋白质分析与设计、单细胞组学分析、数据检索、工具调用五大类。其中的Skill Creator允许研究者通过对话说明任务意图、输入输出和约束,系统辅助组织流程,再用实际数据验证修改,形成可重复调用的方法。这样,专家的一次指导就有机会留下持续可用的工作流。

水木分子的商业策略是平台与管线双轮驱动。平台端,ChatDD面向企业提供Insight(立项前靶点评估)、Discovery(分子设计与虚拟筛选)和Trial(临床开发支持)三个模块;水木知了面向个人科研人员,由下往上推广。管线端,公司亲自推进面向自身免疫疾病和肿瘤的创新药研发,把平台用进自己的研发决策、分子设计和项目运营。据首席科学家潘琦介绍,公司第一条自研管线——自身免疫领域的双特异性抗体——从基于靶点生物学和临床证据的立项,到分子设计和虚拟筛选,再到湿实验验证和临床前候选分子确认,仅用了七个月,而传统方法通常需要十二至二十四个月。

这一模式与Alphabet旗下的Isomorphic Labs有结构相似性:同为AI原生公司,同样干湿闭环,同样采用平台服务与自有管线并行策略,同样由顶尖AI机构孵化而来。但水木分子更倾向大分子管线和技术开源。平台与管线的互补在于:自研项目让药研专家连续使用平台,也让算法团队有机会长期追踪一个任务的后续结果,持续改进工具与流程;项目数据为ChatDD提供直接反馈,比如计算建议能否在实验中成立,未成立的地方应该怎样调整。

对外合作方面,ChatDD已在多家外部客户中落地,包括中国大型药企(以复星PharmAID为例参与研发智能体平台共创)、生物技术公司、CRO(进入CMC运营、临床试验方案等流程改造)以及头部跨国药企(涉及临床运营和上市后临床)。邢杰预计2026年收入将是去年的三至四倍,管线进入开发阶段和商务拓展预计在明年发生。这些数字均为公司自报预期,尚未经独立验证。

水木分子团队横跨AI与制药两个领域:张亚勤、聂再清、马维英带来AI研究与技术产业化经验;CEO王卓智曾任药明生物副总裁,深度参与三百多个创新药项目;潘琦在Genentech、勃林格殷格翰、传奇生物和Pathos AI等企业积累了多年药物研发和AI应用经验;邢杰此前任职药明康德副总裁和CIO。这种组合本身不证明产品有效,但解释了为什么这家公司选择从对话式交互而非单纯模型预测切入AI制药——它需要同时理解药研专家的真实工作方式和AI智能体的能力边界。

信息源:量子位

研究

纽约时报等媒体起诉Brave浏览器,指控其非法抓取内容供AI训练并绕过付费墙

专题 · Brave AI抓取诉讼实质变化
2026-11-03 01:51

据路透社报道,《纽约时报》与《纽约每日新闻》、《芝加哥论坛报》和《奥兰多哨兵报》等出版商已对Brave浏览器开发商Brave Software提起诉讼。原告指控Brave非法抓取受版权保护的内容用于训练人工智能模型,并通过其浏览器内置的“付费墙拦截器”(Paywall blocker)功能让用户绕过新闻网站的订阅限制。

根据法庭文件,Brave被指将其抓取网站内容的索引商业化,部分方式是向AI公司提供对“Brave索引中实时在线内容”的付费访问权限。这些AI公司随后利用该索引来训练模型或响应用户查询。诉讼称,Brave已向包括Anthropic、Perplexity、Mistral、xAI和Cohere在内的多家AI公司提供了“被盗的版权内容”。

《纽约时报》发言人Graham James表示,Brave无视了停止侵权行为的多次请求,该公司通过窃取内容为其产品提供动力并向生成式AI巨头提供支持。代表其他三家出版商提起诉讼的律师Steven Lieberman则称,Brave正在为AI行业“洗白”盗版新闻报道。

目前,Brave及被点名的几家AI公司尚未立即回应置评请求。此诉讼是围绕AI训练数据版权纠纷的最新法律行动之一,此前《纽约时报》等媒体已就类似问题起诉OpenAI和微软。

信息源:The Verge

研究

Anthropic推出消息线程功能,长上下文代理响应延迟降低约35%

专题 · Anthropic实质变化
2026-11-02

Anthropic于2026年11月2日宣布,其Claude平台上的Messages API现已提供“消息线程”(message threads)功能的公开测试版。该功能旨在解决长期运行的AI代理在每次交互中需重新发送完整对话历史导致的延迟问题。

在传统模式下,编码代理或计算机使用代理可能在一次会话中发起数百次请求,每次请求都包含所有先前的消息和工具结果。当对话达到数十万token时,重新发送所有内容会显著增加首字生成时间(TTFT)。启用消息线程后,代理只需发送自上次交互以来的新消息及前一个响应的ID。Anthropic表示,对于拥有50万至100万token上下文的请求,中位TTFT降低了约35%。

技术实现上,Anthropic在服务端内存中加密保存每个线程的状态,不写入磁盘。线程在最后一次请求后5分钟过期,之后客户端需重新发送完整对话以启动新线程。尽管每次请求的数据量减小,但Claude在每一轮仍读取完整对话,因此token用量保持不变。

该功能特别适用于对延迟敏感的活跃会话,如长运行编码代理、计算机使用代理以及文档和图像密集型工作流。目前,消息线程已在原生Claude平台、AWS上的Claude平台、Microsoft Foundry中的Claude以及Google Cloud上的Claude模型(由Anthropic管理)中可用。标准Claude token费率和现有限制适用。

信息源:Claude

研究

AI芯片初创公司Tachyum斯洛伐克子公司自愿申请破产,Prodigy处理器IP归属不明

专题 · Tachyum快讯
2026-11-03 02:07

据Tom's Hardware报道,AI芯片初创公司Tachyum的斯洛伐克子公司(Tachyum Slovakia)已于2026年10月22日在布拉迪斯拉发自愿申请破产。法院随后启动了破产程序,认定该公司符合法定要求。根据斯洛伐克法律,自愿申请破产的公司被推定为资不抵债。

Tachyum自2018年推出Prodigy通用处理器以来,尽管经历了八年的开发和多次承诺,但至今仍未展示可用的Prodigy硅片。该处理器的发布时间从最初的2020年一再推迟至2025年,甚至可能延至2030年以后。随着破产程序的启动,如果无法获得额外融资或找到买家,Prodigy的开发工作实际上可能终止。

目前的关键不确定性在于Prodigy知识产权(IP)的归属。Tachyum Slovakia是美国母公司Tachyum Inc.的子公司。如果美国母公司拥有IP,而斯洛伐克子公司负责研发并积累债务,破产可能导致斯洛伐克实体消失,但美国母公司仍保留IP。反之,如果斯洛伐克子公司拥有IP,则需通过破产财产出售。此外,据报道美国母公司也面临债权人的清算压力,这使得Prodigy IP的最终命运更加扑朔迷离。

信息源:Tom's Hardware

研究

瑞典风投Creandum募集7.5亿美元设立第八期基金,重点投资AI初创企业

专题 · Creandum实质变化
2026-11-02 20:04

瑞典风险投资公司Creandum已为其第八期基金募集到7.5亿美元,这是该公司历史上规模最大的一期基金。此次募资正值投资者竞相以越来越大的早期轮次支持热门AI初创企业之际。

据Sifted报道,Creandum在过去两年中将其在旧金山的存在感增加了两倍,显示出其对美国AI生态系统的重视。该基金将专注于为处于早期阶段的AI公司提供资金支持,反映了当前一级市场资本向头部AI项目集中的趋势。

信息源:Sifted

研究

澳大利亚图形设计软件公司Canva发布Brush视觉语言模型:通过编写代码实现精准设计编辑

专题 · Canva Brush实质变化
2026-11-03 02:06

澳大利亚图形设计软件公司Canva于上周发布了其专为设计师打造的新视觉语言模型Canva Brush。与常见的图像生成模型不同,Brush是一个编辑模型,旨在理解设计师的意图并解释设计变更请求。据The New Stack报道,该模型面向Canva Pro用户开放,能够读取设计的内容和结构,编写并执行小段代码以进行修改,然后自行检查结果。

Canva在发布博客中指出,生成高质量设计是AI模型面临的巨大挑战之一,但“编辑它们则更为复杂”。这是因为模型需要理解设计师想要改变什么、设计的结构如何组织,以及最重要的是哪些部分必须保持原样。否则,一个简单的编辑请求可能会导致大量未经要求的更改。例如,在处理“为我制作一个带有新艺术风格视觉效果的3页面包店宣传册”这样的提示时,代理需要进行一系列复杂的决策,包括规划叙事、生成文本、选择图像,并保持排版、颜色和间距的一致性。

企业AI架构师、Besk Tech创始人Vladimir Beskorovainyi在接受The New Stack采访时表示,Canva并非在与前沿大模型竞争,而是在解决一个“有界问题”(即具有明确参数和有限范围的特定任务)。他认为,在这种有界问题上,小型专用模型多年来一直在悄然超越大型通用模型。“这里的护城河在于工件本身,而不是权重”,Beskorovainyi指出,Canva的优势在于它可以基于真实设计的组装方式进行训练,这种训练信号比基础处理能力更难被复制。

Deep-tech风险工作室The Capital Index联合创始人兼首席技术官Rodion Sorokin也认同这一观点,称Canva是在“细分化”前沿实验室。他提到,Brush从开源权重模型开始,并使用强化学习针对Canva内部设计师定义的“好设计”标准进行训练。Sorokin表示:“前沿模型了解互联网;Canva知道数亿人实际上如何使用幻灯片。”

值得注意的是,Canva声称Brush比其之前的设计代理快69%,每个任务的成本低46%。然而,这些速度和成本数据均为厂商自报,且仅与公司自身的前代产品进行比较,并未与前沿模型进行独立基准测试。此外,Canva的另一款图像生成模型Craft在众包基准测试平台Design Arena上排名第四,落后于OpenAI的GPT Image系列模型。

信息源:The New Stack

研究

研究称ChatGPT在用户未明确要求时写入95.9%的记忆,并推断心理状态

专题 · ChatGPT实质变化
2026-11-02 15:37

一篇被顶级会议ACM Web Conference 2026接收的论文《The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT》利用欧盟GDPR赋予用户的数据访问权,从80名真实用户那里获得了他们完整的ChatGPT对话记录以及系统存储的全部记忆。研究发现,95.9%的记忆条目是由ChatGPT自己判断“对未来对话有用”后单方面写入的,只有4.1%是用户明确要求记住的。

研究者将这套记忆称为“算法自画像”,即由算法基于用户私下对话中的自我披露信息勾勒出的用户画像。数据显示,28%的记忆包含GDPR定义的个人数据(如姓名),7%包含特殊类别数据(其中健康信息占61%)。更值得注意的是,52%的记忆包含对用户心理状态的推断,如欲望、意图、情绪和信念。例如,一条记忆可能写着“某某对失败有恐惧,尤其涉及重大职业决策”。这已经跳出了事实记录,变成了AI对“你是什么样的人”的判断。

尽管OpenAI官方文档声称系统被训练为“不会主动记住敏感信息,除非用户明确要求”,但实际运行中,系统允许保存其认为“有用”的信息。这种政策承诺与实际行为之间的落差,意味着用户对AI记忆形成的影响只能通过“说什么”间接实现,而无法直接控制“记什么”。

信息源:爱范儿

研究

AWS 多智能体系统用于航空部件替代评估:确定性代码做判定,大模型做检索、路由与合成

专题 · AWS航空部件评估智能体实质变化
2026-11-03 01:01

航空工程师面对一个已停产或交期过长的合格部件时,需要花数天时间在供应商数据手册、接口控制文档和资质记录之间交叉比对,才能写出一份替代论证供评审。错误的替代在飞行关键部件上可能导致任务失败,而支撑每个决策的证据链往往散落在邮件和未记录的机构知识中,没有正式的可重复审查包。

AWS 机器学习博客描述了一套多智能体工程助手,试图压缩这个手动交叉比对过程。其核心设计规则只有一条:工程师做每个决定,系统组装支撑该决定的证据。这条规则决定了哪里使用大语言模型、哪里使用确定性代码。

架构由三个支柱定义。第一,确定性规格适配评估:用 Python 编写的容差规则代码,将每个候选部件与参考部件及工程师声明的需求逐项比对。因为相同输入始终产生相同的通过/标记结论,结果可以进入正式工程审查。第二,多智能体编排:一个轻量规划器将查询路由到三个专家智能体(目录、评估、知识),仅当两个以上专家贡献了结果时,一个监督者才进行综合。第三,人在回路决策:系统起草论证备忘录和集成影响评估供工程审查,但不推荐或批准替代。每次评估还写入与 AS9100 第 8.4 和 8.5.6 节对齐的审计条目。

模型分层是这套架构中一个务实的成本-延迟选择。路由是分类任务,不涉及工具调用,不需要大推理模型,基于 Haiku 的规划器在几秒内返回编号路由方案。专家智能体使用 Sonnet 执行工具。Opus 监督者仅在两个以上专家贡献时运行,因为综合单个专家已完整的答案会增加约 8 秒延迟而没有质量收益。

确定性评分引擎是整个系统可审计性的基础。规格适配评估作为普通 Python 代码运行,对照手写的分类需求模式。模式为每个部件类别定义关键规格和容差规则,score_substitution_fit 逐项比较、计数通过和标记、并呈现生命周期风险。因为结论必须可复现,此步骤不涉及任何大语言模型。专家智能体呈现结果表并解释标记,但不能改变判定。

Amazon Nova 多模态嵌入在此方案中承担两个不同角色。在多模态检索中,数据手册、接口控制文档和性能图表被嵌入同一语义空间,工程师可以输入文字查询或上传图表图片,检索返回匹配图表并附来源归属。在视觉相似度评分中,当两个候选部件被比较时,Nova 多模态嵌入对其照片计算余弦相似度,然后 Claude 分析具体可观察差异(安装孔位、连接器位置、外壳几何)。这个分数为确定性规格比较提供辅助证据,但判定本身基于规格比对。

作者分享了构建检索路径时的三个实践教训。第一,索引前裁剪图表:整页数据手册约 90% 的内容(页眉、规格表、页脚)是所有部件共享的样板,会主导嵌入向量。裁剪图表区域后,图片上传匹配从 7 个部件中 3 个正确提升到 7 个全部正确。第二,当工程师指定部件名时过滤结果:跨模态文本到图片相似度不能可靠返回正确部件的图表,因为扭矩曲线图片中没有可见部件名。第三,记录图片路径上的每次静默回退:缺少 s3vectors:QueryVectors 权限不会报错,图片查询静默降级为文本检索,模型随后以高置信度给出错误部件名。

评估结果方面,所有轨迹级质量指标得分在 0.95 以上,工具参数提取接近满分 0.980。工具选择准确率从 0.809 提升到 0.861,主要归因于合并为单一托管知识库、修复图片查询路径的缺失权限、以及收紧规划器路由避免串联不必要的专家。目标成功率 0.892 较低,因为查询集包含安全类提示——智能体正确拒绝推荐或批准替代,但评估器将正确拒绝计为未达成目标。

需要明确的是,所有评估数字来自虚构制造商 AnyCompany 的合成数据集上的自报测试,未经真实工程评审或独立复现验证。该方案展示的是一个可复用的架构模式:在判定结论需要可审计和可复现的领域,将确定性代码与 LLM 推理严格分离,LLM 处理模糊检索和叙述合成,代码处理精确比对和最终判定。

该模式可迁移到其他部件类别。替换领域需要三项改动:替换部件数据、编辑需求模式定义该类别的关键规格和容差规则、将知识库指向自己的 S3 语料。智能体、工具和评分引擎无需修改。由于确定性工具是普通 Python 函数,PLM 或 ERP 集成可以直接调用评分函数,无需智能体参与。

信息源:Amazon Web Services

研究

Circle K云DevOps工程师Marek Klatowicz:预查询日志再交给Agent,比让Agent自行调API更有效

专题 · Circle K实质变化
2026-11-03 01:00

Circle K运营着27个国家超过17200家便利店和加油站,其云原生基础设施支撑着POS系统、忠诚度应用和电动车充电服务。当这些数字服务出现告警时,值班工程师过去需要45到60分钟在CloudWatch日志、OpenSearch链路追踪、ECS任务状态和GitHub运行手册之间来回切换,才能搞清楚发生了什么。Cloud DevOps工程师Marek Klatowicz与AWS联合撰文记录了他们如何用Agentic AI消除这段重复劳动。

系统的第一版基于Amazon Bedrock Flows编排三个专用Agent并行和串行工作:AWSResourceExplorerAgent检查基础设施状态,OpenSearchExplorerAgent拉取应用日志和分布式追踪,两者完成后GitHubExplorerAgent再搜索代码仓库定位根因。最后一个AnalysisPrompt节点汇总三路输出,生成包含根因、证据、责任团队和修复建议的结构化摘要,推送到Slack。整个流程5到15分钟完成。但Klatowicz在经验教训部分明确指出,第一版让Agent自己通过action group去查询CloudWatch日志,结果既增加了延迟,又经常返回超出处理能力的数据量。真正有效的做法是让Lambda函数预先查询日志,把相关错误行直接放进Agent的提示词里——Agent读到实际错误信息时推理更快。

随着数据量和知识规模增长,Flows架构遇到了硬约束:某些复杂事件需要的分析时长超出了单个Flow节点能完成的范围。团队先尝试在现有设计内优化——更激进地过滤日志、缩短上下文窗口、拆分服务到独立Flow——这些措施有帮助但不够。迁移到AgentCore Runtime后,完整调查在单一会话中运行,支持长达8小时的session,每一步可以按数据需要分配时间。三个专用Agent被合并为一个运行在AgentCore Runtime中的单一Agent,AgentCore Gateway统一管理对OpenSearch、Knowledge Bases和GitHub的工具访问。

Klatowicz认为支撑这次迁移的关键不是AgentCore本身的功能,而是一个更早的架构决策:团队始终将提示词、工具定义和分析步骤与Flow结构保持分离。这意味着从Flows切换到AgentCore时不需要重写分诊逻辑,只需要改变运行方式。他同时强调搜索顺序的设计:GitHub搜索必须在AWS资源和日志分析之后运行,因为此时Agent已经知道要查找哪个错误、哪个组件或哪次近期变更;如果一开始就无目标地搜索仓库,返回的结果多到无法使用。

需要指出的是,文中所有性能数据——平均分诊时间从45-60分钟降至15分钟以内、简单事件5-8分钟出摘要——均为Circle K内部事件响应指标的自报结果,未经独立验证。本文由AWS机器学习博客与Circle K工程师联合撰写,AWS作为平台提供商有展示成功案例的商业利益。文中未披露分母(同期事件总量变化)、未说明是否存在选择效应(是否复杂事件仍依赖人工),也未提供迁移前后的对比实验设计。

目前系统仍停留在'找到根因并推荐修复,工程师执行修复'的阶段。团队计划下一步集成AWS DevOps Agent实现简单自动修复(重启任务、扩容、回滚部署),每个操作在Slack中由工程师审批后执行。同时计划接入Jira关联工单、Confluence补充内部文档、将运行手册纳入知识库以匹配已知故障模式。

信息源:Amazon Web Services

研究

AWS:序列级知识蒸馏将购物智能体压缩至 4B 参数,保留推理链是成败关键

专题 · 购物智能体序列级知识蒸馏实质变化
2026-11-03 01:01

智能体应用的成本结构与单次问答不同。一个购物助手完成一次推荐,可能经历搜索、读取结果、缩小范围、验证约束、提交答案等多步循环,每一步都是对前沿模型的一次独立计费调用。在用户规模下,这种按 token 计费的循环使项目无法上线。AWS 博客给出的解法是序列级知识蒸馏(SeqKD):让前沿教师模型生成完整的多步轨迹,用基准测试的评分器筛选出真正解决问题的轨迹,再用这些轨迹对小模型做监督微调。教师只需要输出文本,不需要权重、logits 或强化学习基础设施,因此闭源 API 模型也能充当教师。

这篇博客最有实践价值的发现是一个消融实验:同样的 426 道训练题、同样的筛选流程,唯一区别是训练目标中是否保留教师的推理文字。去掉推理、只留工具调用,平均绝对成功率从 0.541 降到 0.415,差了约 13 个百分点。作者的解释是:推理不是装饰性旁白,而是连接观察与下一步行动的因果链。智能体在每一步需要决定搜索什么、如何过滤、何时终止,这些决策由推理驱动。学生如果只学到工具调用序列而没学到背后的推理,就只完成了部分迁移——保留推理才是把学生带到接近教师水平的关键。

但 SeqKD 有明确的能力天花板。博客指出,决定蒸馏能否成功的不是学生与教师之间的参数差距,而是任务本身是否在学生能力范围内。教师 GLM-5.3 约有 400 亿活跃参数,学生 Qwen3.5-4B 只有 40 亿,十倍差距,但购物任务对 4B 模型来说足够简单,所以学生几乎完全恢复了教师的质量。反过来,如果任务超出学生的原始能力,蒸馏只会让它产出格式正确但答案错误的长推理链,轨迹变长而准确率不动。作者建议的应对方式是:看到这种症状就停止加数据,要么换更大的学生,要么降低任务难度。此外,SeqKD 在多步循环的最难尾部会停滞,因为学生看不到自己犯错后进入的状态;要突破这个瓶颈需要 on-policy 方法,SeqKD 本身只是第一阶段。

从成本结构看,蒸馏的意义不仅是模型变小。前沿 API 按 token 计费,每次循环每一步都要付费,成本随流量线性增长。蒸馏后的 4B 学生部署在自托管端点上,按实例小时计费,流量增加不额外收费直到需要扩容。作者没有给出具体每任务成本数字,因为那取决于你的请求模式、序列长度和并发量,需要自行测量。同时,IFEval 显示学生的通用指令遵循能力下降了约 6 到 8 个百分点,这是专用化的预期代价——如果降幅远大于此,说明蒸馏把模型收窄得太厉害了。

信息源:Amazon Web Services

研究
下一页 →
登录 / 注册
阅读研究雷达投资体系AI公司权威资料