阅读研究雷达投资体系
登录 / 注册
登录 / 注册
阅读研究雷达投资体系
历史阅读归档 →

阅读

2026-10-1616 条

Cohere提出“临时重复”策略:用竞争机制管理企业AI智能体蔓延

实质变化
2026-10-16 00:54

随着企业AI智能体平台的普及,员工可以更轻松地构建和部署智能体来支持自己的工作。然而,这种去中心化的创建方式带来了一个新的管理难题:如何跟踪组织内已构建的智能体?Cohere在2026年10月15日发布的博客中提出了一个反直觉的观点:智能体数量的增加(proliferation)并不必然导致混乱,只有当管理流程无法跟上其增长速度时,才应被称为“智能体蔓延”(agent sprawl)。

文章首先区分了“增殖”与“蔓延”。最接近工作流的员工往往最能判断哪些任务可以通过智能体简化,因此去中心化的实验是有价值的。此外,未被使用的智能体不会消耗推理成本,这意味着单纯的数量增长并不直接等同于高昂的运营负担。真正的痛点在于缺乏可见性,导致团队难以发现和复用现有智能体,以及对企业数据和系统的访问权限难以治理。

目前,企业通常采用集中式交付、联邦式交付或混合式交付来管理智能体资产,并越来越多地使用智能体注册表(registry)来维护共享视图。这些方法的核心偏好是避免重复,鼓励团队默认复用现有解决方案。虽然减少重叠选项能降低监控和治理难度,但Cohere认为,将重复视为绝对禁忌可能会抑制创新。如果仅仅因为存在一个可用的智能体就禁止构建替代方案,组织将失去发现更便宜、更可靠或更适合特定任务的解决方案的机会。

为此,Cohere提出了一种替代方法:允许智能体变体进行竞争。在这种模式下,重复被视为“临时性”而非“永久性”的状态。如果一个团队有可信的理由相信它能改进现有的“在位者”(incumbent)智能体,它应被允许构建一个“挑战者”(challenger)变体。然而,挑战者的持续使用取决于它是否能证明相对于在位者具有显著优势。

这种竞争模型需要基于证据的限时比较。具体指标取决于用例,但可以包括可靠性、令牌使用量、延迟以及任务性能。例如,一家银行的商业贷款部门可能有一个中央团队构建的财务智能体用于起草信用备忘录。一个处理常规年度审查的贷款团队可以构建一个使用更小、更便宜模型的挑战者,并增加交叉核对步骤。在30天内,两者在代表性案例上并行运行,银行比较四个指标:数据追溯准确性、信贷官编辑程度、每份备忘录的令牌成本以及首次草稿时间。

一旦收集到足够证据,组织决定是让挑战者取代在位者,还是将其退役。如果挑战者在部分工作负载上表现更好,两者可以作为不同的替代品共存。这种方法的关键在于将变异与选择压力相结合。通过让智能体创建变得容易,但让其持久存在取决于绩效证据,企业可以在保持持续实验益处的同时,防止滑向不可控的智能体蔓延。

信息源:cohere.com

研究

Meta工程团队详解Forum应用的AI原生开发流程:从人在回路到人在环上

实质变化
2026-10-16 03:00

Meta工程团队在构建新的独立群组应用Forum时,尝试了一种将AI智能体视为工程流程参与者的工作方式,而非仅仅将其作为更快的代码补全工具。这一实验的核心转变是从“人在回路”(human-in-the-loop)走向“人在环上”(human-on-the-loop)。在旧模式下,工程师驱动每一步,AI辅助;在新模式下,智能体自行运行规划、实现、构建、测试和修正的迭代循环,而工程师设定目标、观察运行并在偏离时介入。这种转变要求成功标准不再是代码量,而是经过验证、可投入生产的结果。

为了使智能体能够安全地自主运行,Meta团队确立了以验证而非编译为终点的标准。只有当自动化测试和视觉检查都通过时,任务才算完成。为此,他们实施了四项关键能力:首先,将规划作为技术规范,提供机器可读的上下文以减少歧义;其次,将构建状态、单元测试和UI规范匹配等自动化通过/失败信号直接集成到智能体循环中;第三,部署导航智能体进行模拟用户测试,像真人一样与实时应用交互并报告回归问题;最后,利用智能体化生产运维,在发布后自动协助根因分析。

最大的收益来自改变代码和工具以适应模型,而非仅优化提示词。团队强调架构清晰性优先于继承的复杂性,选择模块化以便智能体即插即用。更重要的是,他们给智能体提供核查状态的工具,而不是让它基于描述去推理。例如,智能体可以从模拟器读取实时视图层级、列出屏幕元素或查找通往目标视图的路径,这大幅减少了误操作编辑。此外,通过独立的构建变体提供沙盒环境,原型代码被完全排除在生产构建之外,既允许快速AI迭代,又保护了生产稳定性。

这种工作流在实际应用中发现了真实缺陷。在一次例行压力测试中,智能体暴露了一个内存问题,并自动隔离复现步骤、提出修复方案并验证了它。该修复显著减少了设备上的内存增长和页面错误。Forum在八周内达到了与Facebook Groups的核心功能对等,AI处理了大部分常规实现工作,让工程师专注于架构和产品决策。然而,这一方法依赖于强大的自动化验证基础设施,对于缺乏模块化架构或测试覆盖率的团队而言,实施门槛可能较高。

信息源:engineering.fb.com

研究

DeepSpeed-MoE:通过架构与系统优化解决混合专家模型推理瓶颈

核验于 2026-10-16 00:03

长期信息 · 《DeepSpeed-MoE: Advancing Mixture-of-Experts Inference and Training to Power Next-Generation AI Scale》(2022)

在大型语言模型的发展进程中,稠密模型(Dense Models)的训练成本随着参数量的增加而急剧上升,硬件资源的限制使得单纯扩大模型规模变得不可持续。混合专家模型(Mixture-of-Experts, MoE)作为一种稀疏架构,虽然在训练阶段能显著降低计算成本,但其巨大的参数量导致内存需求激增,且推理效率低下,限制了其实际应用。DeepSpeed-MoE 论文针对这一痛点,提出了一套端到端的解决方案,旨在平衡模型质量、训练成本与推理效率。

该研究的核心贡献之一在于扩展了 MoE 的应用范围并提出了新的架构设计。传统 MoE 多用于编码器-解码器任务,而本文将其成功应用于自回归自然语言生成(NLG)任务,证明了在保持同等模型质量的前提下,可实现 5 倍的训练成本节省。为了解决 MoE 模型“参数效率”低下的问题,作者设计了金字塔残差 MoE(Pyramid-Residual MoE, PR-MoE)。这是一种混合稠密与稀疏的架构,通过残差连接仅在专家最有效的地方应用稀疏性,从而在不改变模型质量和最小化计算需求变化的情况下,将 MoE 模型的参数大小减少高达 3 倍。此外,通过分阶段知识蒸馏技术,作者创建了 PR-MoE 的蒸馏版本——学生混合模型(Mixture-of-Students, MoS),进一步将模型大小压缩至原来的 1/3.7,同时保持可比拟的模型质量。

除了架构创新,DeepSpeed-MoE 还开发了高度优化的推理系统,以解决大规模 MoE 模型的部署难题。由于 MoE 模型比等效稠密模型大得多,推理过程往往受限于内存带宽而非计算能力。该系统通过结合模型压缩与系统级优化,实现了显著的推理加速和成本降低。具体而言,与现有的 MoE 推理解决方案相比,DeepSpeed-MoE 提供了高达 7.3 倍的延迟和成本改善;而与质量相当的稠密模型相比,其推理速度提升了 4.5 倍,成本降低了 9 倍。这使得万亿参数级别的 MoE 模型能够实现低于 25 毫秒的超低延迟推理,为从稠密模型向稀疏 MoE 模型的转变提供了可行的工程路径。

对于关注大模型基础设施优化的读者,DeepSpeed-MoE 提供了一个清晰的视角,即如何通过软硬件协同设计来突破算力瓶颈。它不仅仅是一个算法改进,更是一个完整的系统方案,展示了如何在资源受限的情况下部署高质量的大模型。例如,假设一个团队需要在有限的 GPU 集群上部署一个高性能对话模型,直接采用稠密模型可能因显存不足或推理延迟过高而无法落地,而参考 DeepSpeed-MoE 中的 PR-MoE 架构和推理优化策略,则可能在保持响应速度的同时大幅降低硬件门槛。

建议从事 AI 系统工程、模型压缩及高效推理研究的工程师和研究人员阅读此论文《DeepSpeed-MoE: Advancing Mixture-of-Experts Inference and Training to Power Next-Generation AI Scale》(2022年),重点关注第 1 节关于挑战的描述以及第 3 节关于 PR-MoE 和推理系统的技术细节。

信息源:《DeepSpeed-MoE: Advancing Mixture-of-Experts Inference and Training to Power Next-Generation AI Scale》(2022)

研究

巴菲特1987年股东信:商业价值与经营稳定性的投资逻辑

核验于 2026-10-16 00:03

长期信息 · 《Berkshire Hathaway Shareholder Letter 1987》(1987)

在1987年的致股东信中,沃伦·巴菲特深入探讨了账面价值与商业价值的区别,并阐述了伯克希尔·哈撒韦的核心投资哲学。首先,他明确指出:“What counts, of course, is the rate of gain in per-share business value, not book value.”(当然,重要的是每股商业价值的增长率,而不是账面价值。)为了说明这一点,他举了LTV和Baldwin-United破产前仍显示高额账面价值,以及Belridge Oil以远高于账面价值的价格出售给壳牌公司的例子。这提醒投资者,会计数字往往无法反映企业的真实经济状况,真正的价值在于企业产生现金的能力及其护城河。

其次,巴菲特强调了经营稳定性的价值,反对盲目追求所谓的“高增长故事”。他写道:“Experience, however, indicates that the best business returns are usually achieved by companies that are doing something quite similar today to what they were doing five or ten years ago.”(然而,经验表明,最好的商业回报通常是由那些今天做的事情与五或十年前非常相似的公司获得的。)他认为,频繁的重大变化虽然听起来诱人,但也带来了犯重大错误的机会,且难以建立坚固的商业特许经营权。通过引用《财富》杂志的研究,他指出只有少数公司能在十年间保持极高的股本回报率,而这些公司大多从事看似平凡的业务,如非性感的产品或服务,但做得极好。

最后,信件展示了伯克希尔独特的去中心化管理体系。巴菲特提到:“With managers like ours, my partner, Charlie Munger, and I have little to do with operations. in fact, it is probably fair to say that if we did more, less would be accomplished.”(像我们这样的管理者,我和合伙人查理·芒格几乎不参与运营。事实上,如果我们做得更多,成就可能反而更少。)这种信任源于对优秀管理者的识别,如Buffalo News、See's Candies等子公司的负责人。他们不仅创造了惊人的资本回报率,还让总部得以专注于资本配置而非微观管理。对于今天的读者而言,这提供了一个清晰的框架:评估一家公司时,应关注其业务模式的持久性和管理层的自主性,而非短期的财务修饰或激进的战略转型。假设你正在分析一家传统消费品公司,若其过去十年的产品线和盈利模式保持稳定,且管理层拥有高度自治权,这可能比一家不断推出新概念但缺乏执行记录的科技公司更具长期投资价值。

对于希望理解如何透过财务报表看穿企业本质、以及如何构建一个由杰出管理者驱动的分散化投资组合的投资者,Berkshire Hathaway Shareholder Letter 1987是必读经典。它清晰地定义了商业价值与账面价值的差异,并论证了稳定性优于变化的投资逻辑。建议从信件开头关于价值定义的段落读起,随后重点关注其对子公司运营模式的描述。

信息源:《Berkshire Hathaway Shareholder Letter 1987》(1987)

研究

已读完当前范围的内容