阅读

美国AI云基础设施公司CoreWeave于2026年7月28日在其官方博客宣布，在MLCommons协会最新发布的MLPerf 0.7 Endpoints基准测试中，其使用68块NVIDIA Blackwell GPU组成的GB200 NVL72系统运行DeepSeek-R1推理模型，实现了441,740 tokens/秒的系统吞吐量（在16,384并发请求下），以及最高6,496 tokens/秒的单GPU吞吐量。

MLPerf Endpoints是MLCommons推出的新基准套件，旨在衡量推理服务在现实、并发在线负载下的表现，而非单一数据点。该测试包含DeepSeek-R1这一6710亿参数的混合专家推理模型，因其单次响应可产生数千个输出token而被视为最难的服务工作负载。

CoreWeave强调其结果是在标准生产集群上验证的，使用了与客户相同的网络结构、调度器、存储和Mission Control编排系统，而非为测试专门搭建的隔离环境。公司指出，单GPU吞吐量是最直接反映真实推理服务经济的指标，因为它映射到每加速器的token服务量和每GPU成本。

需要注意的是，上述性能数据均为CoreWeave自报结果，虽经MLCommons Association验证提交过程，但尚未见独立第三方复现报告。此外，单GPU吞吐量6,496 tokens/秒系由系统总吞吐量除以GPU数量推导得出，并非MLPerf官方直接报告的指标。

生产推理服务最难诊断的问题不是宕机，而是'不宕机但一直在变慢'。CoreWeave博客作者Tara Madhyastha和Nisha Nadkarni在2026年6月发表的博客中用一个假设场景说明这种困境：一个医疗问答服务连续运行三周，没有失败告警、没有错误尖峰、仪表盘全绿，但用户投诉陆续到来——回答变慢了，中途有卡顿。拉取指标后发现p99首token延迟从180毫秒升至240毫秒，峰值时段可用性从99.9%滑到99.1%，两者都没有越过告警阈值。用户已经体验了将近两周的质量劣化，而系统从未被判定为'故障'。

作者将这种静默漂移归因于三类结构性原因，它们随负载增长相互叠加。第一是基础设施层的资源争用：通用云为灵活异构负载设计，而推理是连续、延迟敏感、对资源竞争高度敏感的。小规模时请求很少争抢资源，到生产规模GPU争用变成常态，调度开销随请求量增长——在每秒50个请求时可忽略的延迟，到每秒5000个时变得显著。共享网络路径上的邻居噪声最先出现在尾部延迟，p50看起来正常，p99已经不同。

第二是模型服务配置随负载漂移。作者用一个类比解释批处理问题：静态批处理像旅游大巴，等坐满才发车，快请求被迫等最慢的那个；连续批处理像地铁，每站都有人上下，GPU保持满载。但地铁有自己的问题：一个长输入提示（prefill）会占住站台，让已经在途的所有请求（decode）等待，产生token间延迟抖动。KV缓存压力是另一条路径：上下文窗口变长、会话增多时，引擎开始驱逐或抢占在途请求来腾空间，重算开销不体现在错误率里，但体现在p99里。

第三是流量模式与扩缩容的错配。自动扩缩容系统响应已观测到的需求，有固有滞后：新pod大约90秒上线，新节点需要数分钟。突发流量到来时，扩缩容跟不上，请求排队、延迟攀升，持续足够久就开始超时。作者还指出一个更隐蔽的版本：请求形状不均等。如果基础设施按平均复杂度配置，当最重的请求集中出现时，容量饱和速度会快于扩缩容策略的预期。

针对这三类原因，文章给出三个诊断信号：p99持续攀升而p50稳定，指向基础设施变异或配置漂移而非负载问题；TTFT在负载稳定时上升，指向GPU争用或批处理配置；goodput（满足延迟SLA的请求数）与throughput（处理的总请求数）出现差距，说明系统'在运转'但部分用户实际经历了失败——一个95%吞吐量的系统可能仍在让五分之一用户超时，而监控从未记录这次失败。

作者的核心结论是：这些团队把可靠性当作架构属性而非监控问题来设计，选择显式GPU分配、流量感知扩缩容、基于实际负载验证的SLA和可预测网络。需要指出的是，CoreWeave本身销售专用推理基础设施，这一结论与它的商业定位一致；文中所有数字均为假设示例，非实测生产数据。经过良好调度的通用云环境配合拓扑感知调度和预分配策略，也能在相当程度上缓解所述问题。

加拿大人工智能公司Cohere于2026年10月22日宣布，其面向企业的模型推理服务Model Vault现已支持机密计算（Confidential Computing）并进入公开测试阶段。该功能基于微软Azure基础设施和英伟达H100 GPU的机密计算能力，旨在为金融、医疗和法律等行业的敏感工作负载提供硬件级保护。

传统加密主要保护存储中和传输中的数据，而机密计算针对的是“使用中”的数据。在Model Vault的新架构中，推理过程运行在由CPU和GPU共同构成的硬件隔离环境中。英伟达的机密计算技术确保GPU内存受到保护，且CPU与GPU之间的通信在模型执行推理时被加密。这意味着即使是云服务商或Cohere的基础设施管理员也无法访问明文数据。

除了硬件隔离，Cohere引入了远程证明（Remote Attestation）机制。客户可以在发送敏感数据前，通过软件对处理环境进行密码学验证，检查硬件、固件和软件配置是否符合安全策略。如果环境未通过验证，客户端将拒绝发送请求。这一机制将信任模式从“相信供应商的承诺”转变为“自行验证技术控制”。

此外，Model Vault还实现了应用层载荷的端到端加密。请求内容在进入机密环境前保持加密状态，仅在该受信任的环境中解密，响应返回时同样受到保护。Cohere首席技术官Phil Blunsom表示，此举让企业无需在托管AI的便捷性与对敏感信息的控制权之间做出选择。

Charter研究机构的八月调查覆盖五千余名声称在工作中使用AI的美国受访者，结果显示：约三分之一的高管表示更信任AI的判断而非自己的判断力，而普通员工中这一比例仅约为其一半。在'谁真正从AI中获益'这个问题上，55%的高管认为AI同时改善了工作和个人生活，员工中只有大约一半的人给出相同回答。

t3n.de文章指出了一个结构性矛盾：企业雇佣高管是因为他们的经验和知识，而不是为了让他们把决策交给AI。当最应该提供判断的人开始外包判断，问题就不只是个人偏好，而是组织能力的侵蚀。

文章引入了一个专门术语来描述这一现象：'Cognitive Offloading'（认知外包），指人们将思维工作转移给AI系统以减少自身认知负荷的行为。让AI摘要一篇长文而非自己通读，让AI分析简历或财务数据而非亲自审阅——这些做法确实节省时间和脑力。但节省认知负荷的代价可能是认知能力本身。

麻省理工学院媒体实验室的一项研究也显示，受试者在一个月内将事实核查工作交给AI系统完成，当AI工具不再可用时，这些受试者辨别虚假信息的能力下降。主要作者之一、博士生Anku Rani在MIT的公开文章中警告，用户经常忘记AI模型做的只是统计预测，而非真正的判断。

布鲁金斯学会下属的'普及教育中心'（Center for Universal Education）在青少年群体中观察到了类似模式：当学生将思考过程交给AI时，教育过程可能被削弱。65%的受访学生自己表达了对认知能力长期下降的担忧。一个学生的原话是：'很简单，你不需要用脑子。'

这些证据共同指向一个'去技能化'（Deskilling）机制，与计算器削弱心算能力的历史先例类似。不同的是，计算器处理的是确定性运算，而AI处理的是判断性任务——后者恰恰是高管被雇佣的理由。当统计预测被当作判断来使用，幻觉、误导性推论和偏见就进入了决策链，影响范围从单个高管扩展到整个组织。

需要明确的是，MIT实验测量的是事实核查这一特定能力，而非广义的管理判断。调查数据反映的是自报信任度，不是决策质量的直接测量。从'依赖AI核查事实一个月后辨别力下降'到'高管将数据分析委托给AI后判断力退化'，中间存在任务复杂度和时间跨度的外推。但方向一致的证据已经足够说明：认知外包不是零成本的效率工具，它可能正在以使用者最不易察觉的方式侵蚀其核心能力。

在2026年10月22日于首尔举行的“OpenAI DevDay Exchange: Seoul”活动上，OpenAI亚太区技术成功总监Albert Yip宣布了一项新机制：允许ChatGPT付费用户将其订阅包含的AI使用量共享给第三方应用程序。这一功能被称为“Sign in with ChatGPT”（使用ChatGPT登录）。

此前，开发者若在其应用中集成OpenAI模型，需自行承担每次用户调用产生的API费用。新机制下，当用户在支持该功能的应用中通过ChatGPT账户登录并同意共享用量时，其在该应用中的AI消耗将直接从现有的ChatGPT Plus或Pro订阅额度中扣除。这意味着开发者无需为试用用户支付额外的推理成本，而用户则能更充分地利用已购买的订阅服务。

OpenAI表示，首批支持此功能的合作伙伴包括AI编码工具Devin、协作平台Notion和Web开发平台Vercel等16家公司。需要注意的是，外部应用的使用量并非无限，而是与主订阅共享同一限额。此外，账号登录与用量共享是两个独立的授权步骤，以保护用户隐私和控制权。目前，该功能主要面向开源工具和个人项目，商业应用需经过申请和审核才能接入。

美国AI公司Perplexity更新了其macOS智能体应用“Perplexity Computer”，新增本地大语言模型（LLM）支持。该应用此前依赖云端模型，现允许用户在无需互联网连接的情况下，在本地设备上运行AI任务。初期支持的模型包括Qwen 3.6和PPLX Pro，后者是Perplexity基于Qwen进行后训练的专有版本。

本地运行对硬件有较高要求：仅支持Apple Silicon芯片的Mac设备，且建议至少配备36 GB内存。Perplexity推荐使用较新的机型，如搭载M5 Pro芯片并配置48 GB内存的Mac mini，起售价约为2659欧元。此外，该功能并非免费，仅限Pro、Max或Enterprise订阅用户使用。

Perplexity声称，本地模式可处理复杂的多步骤任务，如分析私人财务组合、操作本地文件和邮件，确保数据不离开设备。若本地性能不足，应用提供“混合计算”选项，可通过本地编排器调用超过15种云端前沿模型。关于本地与云端切换的实际体验及优化效果，尚待独立测试验证。

流量高峰到来，语音合成请求开始排队，延迟突破服务等级目标——而自动扩缩容策略本该阻止这一切。问题在于，策略所依据的阈值往往是凭经验猜出来的。猜得太保守，GPU实例大量闲置，成本体现在每张账单上却不会触发任何告警；猜得太激进，每台实例承载的并发请求超出其延迟承诺，控制台上一切正常，直到真正的流量高峰把排队时间推过SLO，才在最多人收听的时刻暴露出来。

为什么语音合成不能沿用大语言模型的扩缩容指标？多数公开指南针对的是短同步请求或LLM推理，自然指标是每秒生成的token数。但Kokoro-82M这类非自回归模型一次前向传播就产出完整语音，没有逐token生成循环可以挂载指标。决定一台TTS实例是否过载的因素更简单：此刻有多少请求在排队和执行。因此，该方案选用SageMaker AI原生发布的ConcurrentRequestsPerModel指标，而非自定义的吞吐量度量。

核心方法被称为四数模型：操作者选定两个参数——延迟SLO（本文取3000毫秒p95首音频字节时间）和溢出比率（1.25倍，即允许流量在一个扩容周期内增长25%而不破SLO）——然后对实际端点做两次测量。第一次是Q_max：用闭环负载阶梯逐档提升并发数，直到p95延迟突破SLO，取最后一个满足SLO的并发值。本文的Kokoro-82M在ml.g5.xlarge上测得Q_max=50。第二次是T_total：强制触发一次扩容，逐阶段计时，从请求容量到恢复健康流量的端到端耗时。本文测得纯供给耗时260.2秒，加上策略检测延迟的上界60秒，计划使用的T_total为320.2秒。

有了Q_max和T_total，扩缩容阈值和冷却时间全部由算术推导：扩容阈值C_scale_max = (1−h) × Q_max = 0.75 × 50 = 37.5；缩容阈值C_scale_min = (1−2h) × Q_max = 0.50 × 50 = 25。扩容冷却取短（30秒），因为多开一台实例的代价小；缩容冷却取长（约3倍T_total，即960秒），因为缩掉一台实例后若流量回升，重新扩容需要整整320秒。容器自身的准入控制将队列深度硬限在Q_max=50，超出即返回503拒绝，而非让请求排队到必然超时。

这套方法的关键洞察不限于TTS。博客指出，SageMaker AI上延迟敏感、并发受限的实时推理端点——例如一个在GPU前向传播期间保持连接打开的图像嵌入端点——其瓶颈都是并发在途请求数，而非从其他工作负载形状借来的吞吐量指标。四数模型的推导逻辑和五步工具链（drift、qmax、ttotal、plan、validate）可原样迁移。但具体数值会因模型和实例类型而不同：Q_max=50和T_total=320秒只对Kokoro-82M在ml.g5.xlarge上成立，换模型或换机型必须重新测量。

Ben Carlson在博客"A Wealth of Common Sense"中写道，一位38岁、全部资产都在宽基指数基金里的读者问他：最近听说你第一次买了债券，怎么决定买哪种？他的回答不是"因为利率要降了"，而是一条从久期敏感度到起始收益率再到人生阶段风险预算的完整推理。

久期是本文的核心概念。Carlson解释，久期本质上就是利率敏感度——一只久期为5年的债券，利率每上升1个百分点，价格大约下跌5%；反过来，利率下降1个百分点，价格大约上涨5%。他举例说，美国长期国债ETF（TLT）目前久期约15年，这意味着利率上升1个百分点就会带来约15%的价格损失。"我不喜欢猜测利率走势，"他写道，"我更愿意持有5到6年或更短的中短期久期。"

这个选择背后有一个他反复强调的原则：只在获得风险溢价时才承担波动。长期国债的波动幅度太大，以至于持有它们本质上是在做利率方向的投机，而不是在收取固定收益。中短期债券则提供了"收息"这个相对确定的回报来源，同时把利率变动造成的价格冲击控制在可承受的范围内。

那为什么是现在？Carlson给出的直接原因是起始收益率。"债券回报倾向于跟踪起始收益率，"他写道，"债券的预期回报比苹果发布第一代iPhone以来任何时候都高。"过去二十年——从美国金融危机后的超低利率到疫情期间的进一步压低——固定收入几乎没有提供像样的收入。如今收益率回到了2007年以来的最高水平，这改变了数学。

但他同时把个人生活阶段纳入了决策。"我也处于人生的不同阶段，我中年了，目标不同了。"他买了一些税务效率较高的债券放在经纪账户里，用途可能是度假、房屋翻新，也可能是下次股市下跌时的弹药，也可能就是"收5.5%的利息然后开心"。他仍然在退休账户和经纪账户里持有大量股票风险。

最后，他明确划定了自己没在做什么："这不是在预测股市崩盘，牛市完全可能继续。这也不是在预测利率崩盘，如果通胀持续、美国政府继续花钱、AI资本开支飙升，债券收益率完全可能继续走高。"他承认如果利率上升，自己的债券价格短期会下跌，但认为当前较高的收益率提供了一段时期以来不存在的"安全边际"——而且如果利率真的继续上升，那意味着尘埃落定后预期回报更高。

"或者我只是变老了、变无聊了，"他写道，"但无论如何，债券收益率看起来是很久以来第一次有吸引力。"

AI算力的指数增长有一个物理前提：有人得把芯片造出来。英特尔首席技术官Pushkar Ranade在10月22日播出的Dwarkesh Patel播客中给出了一个具体数字：即使投入无限资金，全球现有芯片制造设备最多只能将尖端晶圆产量翻倍。而AI行业过去十年的算力增速是每年三倍。

这两个数字之间的差距意味着什么？Ranade的回答是：除非整个供应链——从设备供应商到它们的供应商再到子供应商——所有人都生产更多，否则产量无法增加。他特别提到ASML每年生产不足100台EUV光刻机，而且到本十年末也没有计划显著超过这个数字。这些机器要在英特尔、台积电和所有内存制造商之间分配。

更深层的约束不仅是EUV。Ranade指出，一旦锁定一个工艺流程——比如已经成熟的18A——就需要特定工具，不能随便换另一家供应商的设备。即使某些工具存在多个供应商，流程锁定意味着实际上仍然依赖单一来源。设备交付周期至少18个月：今天下巨量订单，最快也要到2028年才能拿到设备；如果还需要新建厂房外壳，那基本就是本十年末的事了。

这并不意味着产能完全无法增长。Ranade区分了两个维度：边际产量可以在12个月尺度上提升（通过优化现有设备利用率），但到本十年末的总量增幅极其有限。英特尔自己的经验也印证了这一点——从18A到14A，大约80%的工具集可以复用，但更密集的几何结构需要新设备。

那么AI算力的持续增长靠什么？Ranade和负责英特尔全部量产工艺开发的Chris Auth在访谈中给出的答案是另一条路径：让每片晶圆上的芯片更强。Auth描述了从平面晶体管到FinFET再到环绕栅极（gate-all-around）的演进，以及下一步的CFET（互补场效应晶体管，将n型和p型晶体管堆叠）。但Auth也坦承，他们对技术路线的可见度大约只有四年，超过十年就很难预测具体形态。

这个约束对AI读者意味着什么？它说明AI算力的指数增长并非自动延续。硬件产能存在一个由设备供应链决定的硬上限，突破它要么靠每芯片性能的持续提升（新架构、新材料），要么靠整个供应链的同步扩张（这本身又受限于资本、时间和物理条件）。英特尔首席技术官给出的2X上限，正是这一硬约束最直接的量化表达。

定格动画工作室莱卡（Laika）的CEO兼新片《Wildwood》导演Travis Knight在接受The Verge采访时，把铅笔、画笔、3D打印机和工作站与生成式AI做了明确区分：前者放在艺术家手中才有意义和价值，后者则是'技术在做艺术家的工作'。他说自己坚定反对后者，因为'当技术吞噬了艺术家真正创作的材料，再以不同方式反刍出来，那背后没有灵魂、没有精神、没有人性——那是偷窃'。他进一步解释，只有经历过爱、失去和心碎的人才能讲述关于这些体验的故事，而计算机从未有过这些经历。Knight同时承认AI在医学和科学领域可能带来巨大益处，表示自己并非反对所有AI应用，而是担忧它被如何使用。

2016年，谷歌DeepMind团队在《自然》杂志发表论文《Mastering the game of Go with deep neural networks and tree search》，介绍了AlphaGo程序。该研究针对围棋这一经典AI难题，提出了结合“价值网络”和“策略网络”的新方法。这些深度神经网络通过从人类专家棋局中进行监督学习，以及从自我对弈中进行强化学习来训练。

论文的核心创新在于将蒙特卡洛树搜索（MCTS）与神经网络相结合。策略网络用于选择落子位置，价值网络用于评估棋盘局势。在没有前瞻搜索的情况下，仅靠神经网络就能达到当时最先进的模拟随机自对弈程序的水平。而引入新的搜索算法后，AlphaGo在对其他围棋程序的比赛中取得了99.8%的胜率，并以5比0击败了欧洲围棋冠军樊麾。这是计算机程序首次在完整尺寸的围棋比赛中击败人类职业选手，此前人们认为这一成就至少还需要十年才能实现。

假设一个现代读者想要理解当前大模型推理能力的来源，可以参考这篇论文中的架构思想。例如，设想一个复杂的决策系统，它不再仅仅依赖规则引擎或简单的统计概率，而是像AlphaGo一样，利用神经网络来“直觉”地筛选出少数几个最有希望的行动选项（策略网络），然后对这些选项进行更深层的模拟评估以判断最终结果的好坏（价值网络）。这种“快速筛选+深度评估”的分层处理机制，是解决高维空间搜索问题的关键思路之一。

推荐阅读《Mastering the game of Go with deep neural networks and tree search》（2016年）。对于希望了解深度学习如何应用于复杂博弈、以及神经网络的先验知识如何引导搜索算法的研究者和工程师来说，这是一篇奠基性的文献。建议从摘要和图1（神经网络训练流程）开始阅读，重点关注策略网络和价值网络在蒙特卡洛树搜索节点扩展中的作用。

在1993年的致股东信中，沃伦·巴菲特深入探讨了账面价值（Book Value）与内在价值（Intrinsic Value）的区别及其对伯克希尔·哈撒韦公司的意义。他指出，虽然账面价值是衡量投入企业资本的会计术语，但真正重要的是每股内在价值，即企业在剩余寿命内可提取现金的现值估计。对于大多数公司而言，这两个数值并不相关，但伯克希尔是一个例外。尽管其账面价值显著低于内在价值，但它仍是一个有用的工具来追踪这一关键指标。1993年，两项指标均增长了约14%，巴菲特称这种增长为“令人满意但不令人兴奋”。

此外，巴菲特阐述了伯克希尔独特的资本配置哲学。他明确表示，公司没有关于未来将进入哪些业务或行业的宏大愿景，他认为这种基于宏大愿景的新业务通常对大型企业的股东有害。相反，他们专注于希望拥有的企业的经济特征以及希望与之共事的管理人员的个人特征。这种理念在收购Dexter Shoe的过程中得到了体现。Dexter Shoe是一家位于美国缅因州的公司，由Harold Alfond和Peter Lunder管理，他们在低工资国家进口鞋类的竞争压力下，通过巧妙的管理和熟练的劳动力使美国工厂极具竞争力。巴菲特强调，他们选择Dexter是因为其卓越的管理团队和良好的经济特征，而非出于某种战略计划。

对于投资者而言，理解这一区别至关重要。短期市场是投票机，长期则是称重机。股价可能偏离内在价值，但最终会回归。巴菲特的方法提醒我们，投资应关注企业的本质质量和管理者能力，而非追逐宏观叙事或行业风口。

建议阅读《伯克希尔·哈撒韦1993年致股东信》，特别是其中关于内在价值定义及Dexter Shoe收购案例的部分，以深入理解巴菲特如何平衡财务指标与管理质量进行资本配置。