阅读研究雷达投资体系
登录 / 注册
全部阅读技术产品投资二级市场其他

阅读

2026-11-17100 篇

刷新

英伟达Vera Rubin平台在MLPerf训练基准中实现最高2倍性能提升

实质变化
2026-11-17 00:00

英伟达(NVIDIA)宣布其下一代AI计算平台Vera Rubin NVL72在最新的MLPerf Training v6.1基准测试中首次亮相,并在七个测试项目中的六个取得了最快的训练时间。与高度优化的上一代GB300 NVL72基线相比,Vera Rubin NVL72实现了每GPU最高2倍的性能提升。这一结果标志着新架构在大规模AI训练效率上的显著进步。

在最严苛的DeepSeek-V3 671B混合专家(MoE)模型测试中,Vera Rubin NVL72使用1,024个GPU在4.14分钟内完成训练,而GB300 NVL72在相同规模下需要8.03分钟。这意味着训练时间减半,对于依赖快速迭代实验的AI研发团队而言,相当于在一个季度内可运行的实验数量翻倍。此外,该平台在从256扩展到1,024个GPU时保持了超过97%的扩展效率,显示出其在通信密集型MoE工作负载下的网络架构优势。

MLPerf Training v6.1还引入了首个针对智能体大语言模型的强化学习(RL)后训练基准——Qwen 3.5 397B GRPO。Vera Rubin NVL72以10.44分钟的成绩在该新测试中领先,优于GB300 NVL72的13.78分钟。这一结果反映了AI开发重心向智能体能力构建的转变,以及后训练阶段对系统架构提出的新要求。英伟达表示,Vera CPU在此过程中发挥了关键作用,能够支持超过22,500个并发RL环境,确保GPU持续获得反馈数据。

值得注意的是,这些结果是英伟达在MLCommons框架下提交的官方基准数据,属于厂商自测结果,虽经过标准化流程但尚未有独立第三方的公开复现报告。英伟达同时指出,随着软件栈的持续优化,同一硬件在后续非验证性重测中表现出更快的训练速度,表明基础设施在交付后仍具备性能提升潜力。

信息源:NVIDIA Technical Blog

研究

LanceDB工程师Weston Pace:多基路径让1000万文件的表跨桶迁移只改5个字符串

实质变化
2026-11-17 01:19

Uber的AI基础设施团队向LanceDB提出了一个生产需求:将单个Lance数据集分布到多个S3桶,以在PB级多模态数据和数千并发读取者的场景下提升吞吐量。这个需求暴露了表格式设计中的一个根本张力——绝对路径牺牲可移植性,纯相对路径无法引用数据集根目录之外的文件。Uber需要同时拥有两者:多位置存储和最大可移植性。

Weston Pace曾参与Apache Iceberg和Delta Lake的开发,他观察到这场路径设计的辩论在两个主流格式中各走了一条弯路。Iceberg最初采用绝对路径,理由是路径无歧义、文件可放在任何位置、解析无需上下文。但在多云环境中,迁移一张表意味着重写包含数百万条绝对路径的每一个元数据文件。2021年起社区开始讨论相对路径支持,2025年末社区开始就v4相对路径设计趋于一致,但尚未最终定稿。Delta走了相反的路:从相对路径起步,2021年加入绝对路径,这为2022年末引入的浅克隆功能奠定了基础,从此变成混合模型,获得了灵活性但失去了原有的可移植性保证。

Pace认为这两种设计的共同问题是:绝对路径的灵活性在实践中很少被真正使用——文件几乎总是位于表根目录下;而一旦文件跨越多个位置,垃圾回收、凭证分发和迁移推理都变得困难。更关键的是,零重写承诺在引入浅克隆、文件导入、分层存储或多桶分布等需要绝对引用的操作时就开始出现裂缝。真正需要的不是灵活性,而是最大可移植性:无论表当前处于什么分布形态,迁移都应简单、快速、可预测。

Lance的起点与其他格式不同。它有两个设计前提:可预测性优先于灵活性——所有文件位于已知目录结构中(data/、_versions/、_transactions/、_deletions/、_indices/),路径解析确定性强;严格可移植性——每个路径都是相对的,复制数据集即可立即工作,无需更新元数据。有了这两个前提,问题被重新框定为:如何在保持路径相对的同时让单表跨越多个存储位置?

答案是一个名为位置基(location base)的显式概念。在manifest中新增一个BasePath数组,每个条目包含id、name、is_dataset_root标志和path字符串。文件通过base_id(protobuf varint编码,128个基以内仅占1字节)引用其所在基,再加上基内的相对路径。is_dataset_root为true时,基被视为标准Lance数据集根目录,解析数据文件需加上data/子目录;为false时,基直接指向文件目录,适用于多桶分布场景。

以Uber的设置为例:bucket-1是主数据集根(is_dataset_root: true),保留标准目录结构和版本化manifest;bucket-2和bucket-3是纯数据桶(is_dataset_root: false),只存放.lance数据文件。所有位置注册在manifest的base_paths中,每个fragment通过base_id指向其存储位置。写入时round-robin分配到各数据桶,读取时自动跨所有已注册基并行展开。

这一设计的核心收益是:迁移一张拥有1000万文件、分布在5个桶的表,只需修改5个基路径字符串,而非重写1000万条文件引用。Pace将其总结为四个特性——受控灵活性(多位置但有显式结构)、最大可移植性(改基不改文件)、可组合可移植性(选择哪些基一起迁移)、操作清晰度(垃圾回收和凭证分发只需遍历基路径而非文件列表)。

多基路径还解锁了其他场景:将热点数据暂存到Lustre等高性能并行文件系统、跨区域分布使训练和推理各自读取本地存储、单基故障时仅切换受影响基的路径而非整个数据集、以及浅克隆和分支实验——clone通过基路径引用源数据集,自身只存储manifest和新增文件。

需要指出的是,这是LanceDB自身格式的设计文档,由厂商发布。文章描述了Uber的需求和设计原理,但未公开具体的吞吐量提升数字或独立基准测试结果。设计假设基的数量始终很小——Pace论证说无论是文件导入、浅克隆还是多桶分布,不同基的数量都保持较少,即便表引用数百万文件。这一假设在极端场景下是否成立,以及多基路径在实际生产中的性能表现,仍需独立验证。

信息源:lancedb.com

研究

美国联邦调查局发布警告:AI黑客工具ARTEX可在三小时内攻破网络

实质变化
核验于 2026-11-17 01:47

美国联邦调查局(FBI)于2026年11月13日发布网络安全警报(FLASH-20261113-001),指出开源大型语言模型驱动的自主渗透测试框架ARTEX已被威胁行为者武器化,用于自动化执行从侦察到数据外泄的多阶段网络入侵。该警报强调,ARTEX显著缩短了攻击链各技术环节所需的时间,在某些观察到的案例中,入侵从初始目标定位到获得特权访问的进程在不到三小时内完成。

自2026年8月以来,各类恶意网络行为者利用ARTEX针对全球多个行业的组织发起攻击,包括金融服务、政府、科技、国防和医疗等领域。值得注意的是,该框架降低了进行复杂入侵的技术门槛,使得缺乏专业技术知识的威胁行为者也能同时开展多目标行动。报告特别提及了针对韩国金融机构的攻击导致约67,000人的个人信息被窃取,以及影响ConnectWise云备份客户的供应链攻击,后者使超过2,250个下游租户面临风险。

尽管原始开发者在2026年10月因滥用报告而移除了GitHub仓库,但ARTEX仍通过社区分支、本地化变体及商业版本(如ARTEX PRO)持续传播。截至2026年11月初,研究人员已识别出超过1,600个公开暴露的ARTEX控制台实例。FBI建议运营互联网暴露应用、自助门户、云基础设施及合作伙伴系统的组织实施缓解措施,以降低此类AI驱动入侵的可能性和影响。

信息源:ic3.gov

研究

字节跳动火山引擎:Lance 格式三项机制解决自动驾驶数据训练瓶颈

实质变化
2026-11-17 01:19

自动驾驶每辆测试车每天产生 TB 级多模态数据(摄像头图像、激光雷达点云、音频),量产规模下迅速膨胀至 EB 级。字节跳动火山引擎 LAS 团队在 LanceDB 博客发表案例研究,描述其客户(文中称 Client A)在管理此类数据时遇到的三类具体瓶颈:标注迭代时新增列需重写整个数据集、点云数据带宽压力大、训练时 GPU 利用率仅 60%。

针对第一类问题,传统方案如 LMDB 或 Pickle 在添加新标签列时必须重写全量数据,消耗大量存储和计算资源。Lance 格式通过 Manifest 元数据支持增量 Schema 演进——新增列只写入元数据指针,历史数据文件保持不变。火山引擎称这一机制将存储成本降低 30%,并将 10 PB 标注数据的处理时间从四天缩短到一天。

第二类瓶颈是点云数据的传输和存储带宽。Lance 在 Schema 层面定义 ZSTD 编码,压缩对读写操作透明,无需额外处理步骤。火山引擎报告激光雷达点云压缩率约 70%(1 PB 原始数据压缩至 300 TB),图像数据压缩率约 5%,标注元数据约 40%。

第三类瓶颈是训练效率。传统 I/O 路径因全量读取导致放大效应,GPU 等待数据。Lance 的点查询支持列投影(只读取训练所需字段)和基于行索引的轻量 Shuffle,避免手动构建索引。火山引擎称列投影和轻量 Shuffle 将训练 GPU 利用率提升至 96%;在推理侧,该团队报告 8×A100 GPU 上利用率从 60% 提升至 90%,推理吞吐量相应提升 50%。

需要指出的是,以上所有指标均为字节跳动火山引擎团队自报数据,案例发布于 LanceDB 官方博客,客户身份匿名。没有独立第三方复现、公开测试脚本或可验证的硬件与数据集配置信息。机制设计逻辑(增量元数据、Schema 内置压缩、列投影)可从 Lance 开源文档独立验证,但具体性能数字应视为厂商声称。

信息源:lancedb.com

研究

英伟达公布Vera Rubin平台初步基准数据:智能体推理能效比GB300提升超10倍

实质变化
2026-11-17 00:00

英伟达(NVIDIA)于2026年11月16日发布了其最新AI超级芯片平台Vera Rubin NVL72在MLPerf Endpoints v1.0基准测试中的初步结果。数据显示,在保持每用户每秒50个token的端到端交互性最低标准下,Vera Rubin NVL72的每千瓦吞吐量是上一代GB300 NVL72的10倍以上。这一结果旨在展示新平台在处理多轮对话、工具调用等智能体(Agentic)工作负载时的能效优势。

测试涵盖了Kimi K3、DeepSeek-V4.1-Flash和Qwen3.6-35B-A3B三个开源模型。在匹配并发查询数的情况下,Vera Rubin NVL72实现了3到5倍的端到端交互性提升;而在固定交互性阈值下,其每千瓦吞吐量提升了5到10倍。例如,在运行Kimi K3模型时,Vera Rubin在1,024并发查询下达到了41,414 tokens/sec的系统吞吐量,功耗为100.89 kW,而GB300在相同并发下系统吞吐量仅为13,905.8 tokens/sec,功耗为60 kW。

英伟达指出,性能提升得益于Rubin GPU架构中的HBM4内存、Tensor Cores以及第六代NVLink技术,并结合了前缀缓存、状态复用和Dynamo路由等上下文感知服务技术。这些优化减少了冗余计算并平衡了服务负载。此外,针对特定模型的执行优化,如DeepSeek的MegaMoE内核和Qwen的多token预测验证,也降低了数据移动和顺序解码步骤。

需要注意的是,这些结果是“初步”(provisional)的,尚未经过MLCommons Association的最终同行评审和验证,因此可能会发生变化。GB300的结果已经过MLCommons验证,作为对比基线。对于关注AI基础设施能效和扩展能力的读者而言,这些数据提供了新硬件在标准化智能体负载下的早期性能参考,但实际生产环境表现仍需等待独立验证。

信息源:NVIDIA Technical Blog

研究

ProfitScore市场极值指数读至98/100:SSRN论文作者John McClure主张以压力测试替代预测顶部

实质变化
2026-11-16 21:31

John McClure在SSRN发表的论文《Priced to Perfection》构建了一个六成分复合指数,将美国股市的估值、盈利能力和杠杆水平各自排名后取均值,得到ProfitScore市场极值指数。截至2026年8月的数据,该指数读数为98/100,处于其自身历史的第99百分位。McClure在Quantpedia的摘要中明确指出:这个复合指数的相关输入和极端事件的有限历史,限制了它作为预测工具的有效性——但组合决策不必依赖预测市场顶部。

指数的核心机制在于利润率假设。标普500的市销率目前为3.78倍,比互联网泡沫峰值高出约77%,而市盈率27倍反而低于当年的29倍。McClure认为,这个差距几乎完全由当前异常高的利润率支撑——利润率比互联网时期高出89%。这意味着投资论点高度依赖于一个单一假设:当前利润率水平将持续。结构性改善或许能支撑更高盈利,但即使部分正常化也会削弱每股收益,除非营收增长足以抵消。如果倍数同时收缩,两种效应将叠加。

相对估值同样不令人安心。CAPE收益率仅比10年期TIPS收益率高出0.03个百分点,这是TIPS时代有记录以来的最低股权风险溢价。McClure承认这个利差是衡量预期股权补偿的不完美指标,但它确实抬高了接受股权风险的门槛:投资者需要一个令人信服的盈利增长前景,才能证明承担额外不确定性是合理的。与此同时,保证金债务的增速比市场本身快了17个百分点,这构成了一个潜在的强制卖出来源。

McClure将这一杠杆动态比作英国议会曾要求每艘船体涂画的载重线:超过这条线,船就有沉没风险。他的ProfitScore利润率极值指数及其标记线曾在2000年、2007年和2022年市场顶部前两个月发出信号。当前市场已在该线上方运行了十二个月。他的实际建议不是卖出或择时,而是压力测试:评估利润率走弱、倍数收缩和股债同时下跌的后果,然后判断预期收益是否足以承担这些情景。对于组合管理者而言,这比预测顶部更可行——它不要求知道何时转折,只要求知道如果转折发生,自己的组合能否承受。

需要指出的边界:该复合指数只有两段时期达到90以上,样本量极小;其六个成分中有四个从2000年1月起排名,一个从2002年加入,一个从2005年加入,这意味着完整六成分的历史本身就很短。McClure自己也承认这些限制。此外,论文使用了Anthropic的Claude辅助编辑和数据录入,所有分析和结论由作者本人负责。我们依据的是Quantpedia对SSRN论文的摘要和引文,原始论文因访问限制未能直接读取。

信息源:quantpedia.com

研究

英伟达、IBM与费米实验室宣布合作开发量子-经典协同设计平台,并发布TCBP-JOBS解码算法

实质变化
2026-11-17 00:00

英伟达(NVIDIA)、IBM与美国能源部下属的费米国家加速器实验室(Fermi National Accelerator Laboratory)于2026年11月16日宣布建立新的合作关系,旨在共同开发下一代模块化量子计算机架构、科学应用及超级计算集成方案。该合作的核心是一个由三方共同开发的“量子-经典协同设计平台”,它将英伟达的加速计算和软件与IBM的量子计算机相结合,帮助研究人员扩展量子计算机规模并探索其科学能力。

作为合作的一部分,IBM和英伟达正在将英伟达DGX B200系统与IBM最先进的量子计算机(包括搭载IBM Quantum Nighthawk处理器的系统)进行共址部署。该平台允许研究人员开发和评估纠错码、解码算法以及驱动高能物理和核物理(HENP)科学发现的量子-经典应用。费米实验室的专业知识将使该平台的工作重点放在量子纠错和HENP应用上,从而帮助定义未来容错量子计算机的需求。

此外,英伟达还发布了名为TCBP-JOBS的新解码算法,该算法现已通过CUDA-Q QEC 0.9.0库提供。据英伟达称,TCBP-JOBS在量子纠错研究的计算密集部分实现了最高13,000倍的速度提升,将研究新量子计算设计的计算时间从12周缩短至45分钟。这一改进旨在帮助科学家更高效地评估候选纠错方法,识别能更有效地使用物理量子比特的设计,从而缩短通往实用容错量子计算的路径。需要注意的是,该速度提升数据为厂商自测结果,针对的是研究工作负载中的解码环节。

英伟达还在扩展开源Slurm工作负载管理器,增加了一个量子接口,以简化将量子处理器集成到超级计算环境的过程。IBM通过其量子资源管理界面(Quantum Resource Management Interface)为这一集成做出贡献。这些举措表明,大型科技公司和国家实验室正试图通过标准化软件和硬件接口,解决量子计算与传统高性能计算融合时的工程和维护瓶颈。

信息源:NVIDIA Newsroom

研究

TokenEconomizer:AI编程代理的仓库经验如何降低两到三成token开销

实质变化
2026-11-17 01:01

开发者每天在同一个代码库中使用AI编程代理,但每次会话都从零开始:重新发现如何运行测试、加载从未调用的工具、在同一个错误上反复打转。微软研究院、UC伯克利与微软安全团队在SWE-Bench的60个真实bug修复任务上对Claude Code做了profile,量化了这种浪费的规模。他们发现三种反复出现的模式:当仓库积累至少五个已完成任务后,30%的工具调用重复了该仓库早前任务中的动作;每轮对话中代理收到23个工具描述,其中16个从未被调用;17%的失败任务消耗了32%的总预算。

TokenEconomizer的核心思路是:把已完成的会话变成后续会话的指导,而不修改代理或底层模型。它通过三种机制工作。微技能(micro-skills)从多次会话中识别重复模式,生成一行笔记加入代理的起始上下文,只有当多个会话确认该模式后才添加,若后续证据矛盾则撤回。工具剪枝(tool pruning)根据仓库历史移除代理不太可能使用的工具,但始终保留运行命令和编辑文件的核心工具,被移除的工具可在需要时恢复。失败循环干预(failure-loop intervention)检测代理是否反复撞同一个错误,由一个judge模型判断它是否真正卡住,若是则给代理一条建议换方向的短笔记。

在277个SWE-Bench任务、六个仓库、五种代理与模型组合上的测试中,TokenEconomizer平均降低18.4%–30.9%的成本,在全部30个仓库-组合配对中均节省且无性能损失。节省随经验积累而增长:早期任务可能更贵,但到第六个任务时每个仓库的累计成本已低于默认值。在Web-Bench的连续网页开发任务上成本降低16.0%–21.2%,在安全审计(每个任务都是新仓库)上降低6.4%–19.6%。

需要留意的边界:这些数字来自厂商自报基准,尚无独立复现;节省依赖仓库历史积累,冷启动阶段没有收益;18.4%–30.9%是跨任务的平均值,单个任务的节省可能更高也可能更低。此外,报告的成本已计入TokenEconomizer自身模型调用的开销。插件已开源,可在GitHub获取,无需额外API密钥,学习到的内容保留在开发者本地。

信息源:Microsoft Research

研究

OpenAI扩大“学术研究人员”计划,向20万名科学家免费开放前沿AI模型

实质变化
2026-11-17 01:04

美国人工智能公司OpenAI于周一宣布,将扩大其“学术研究人员”(Academic Researchers)计划,为多达20万名研究人员提供对其前沿模型的免费访问权限。这一举措将使该计划的参与人数比7月启动试点时增加一倍。

该公司将以先到先得的方式发放5万份新资助。每份资助允许获得者邀请最多两名合作者加入。OpenAI表示,不会收集参与此特定学术计划的用户数据。

此次扩展与ChatGPT Edu等其他举措形成互补,后者为整个校园提供访问权限,随着大学越来越多地将AI工具纳入其课程和研究基础设施。

信息源:semafor.com

研究

Box发布Context Retrieval与Architect,利用Nvidia Nemotron优化企业AI上下文检索与工作流

实质变化
2026-11-17 00:47

在企业内容管理供应商Box于本月早些时候举行的年度BoxWorks大会上,该公司推出了针对其代理式AI(Agentic AI)产品的多项升级。其中两项核心新功能尤为引人注目:Context Retrieval(上下文检索工具)和Box Architect(代理编排构建器)。Box首席技术官Ben Kus在接受媒体采访时确认了这两项功能旨在解决企业在部署AI时面临的两大主要障碍:数据未准备好供AI使用,以及工作流设置和优化困难。

Context Retrieval工具旨在帮助AI代理从企业的非结构化内容存储库中更轻松地挖掘相关信息。Kus指出,尽管通用大语言模型(LLM)在公开知识上表现优异,但在处理特定组织的专有术语和数据时往往力不从心。该工具通过混合检索技术,无需用户预先整理源文档或建立整个仓库目录,即可找到相关上下文。据Kus介绍,该检索引擎采用了Nvidia Nemotron技术,这是一种开放权重模型,允许企业在私有环境中运行,从而增强数据安全性。它结合向量数据库进行语义匹配,相比传统关键词匹配,能显著降低Token消耗并提高检索速度和准确性。

另一项新工具Box Architect则是一个代理编排构建器,目前即将向Enterprise Advanced客户开放Beta测试。它的目标是利用最新的生成式AI模型来构建更高效的企业工作流。Kus解释说,许多企业难以评估各种组件和能力如何最佳组合以实现业务目标,这阻碍了AI的采用。Box Architect不仅能帮助企业利用Box的功能优化现有流程,还能通过迭代尝试不同的方法,自动寻找最佳解决方案。虽然初始优化过程会消耗大量Token,但Kus认为,对于需要运行成千上万次的自动化流程而言,这种前期投入是值得的,因为它能带来长期的效率和准确性提升。

除了这两项具体工具,Box还发布了针对银行、公共部门和媒体娱乐行业的特定行业代理解决方案,以及新的威胁保护和代理安全控制措施。这些更新反映了企业软件厂商正试图通过提供更精细化的上下文管理和自动化工具,来弥合通用AI模型与企业实际运营需求之间的差距。

信息源:diginomica

研究

Together AI 的 Agent 评测实践:用弱模型找缺口,两句话修复文档使 GPU 集群任务通过率从 27% 升至 100%

实质变化
2026-11-16

Together AI 的 Hassan El Mghari 等人在测试编码 Agent 能否正确查询 GPU 集群定价时,发现了一个令人意外的现象:Claude Sonnet 4.6 在启用技能包的情况下仍然只通过了 15 次尝试中的 4 次。失败模式高度一致——Sonnet 把 CLI 参考文档中一段未标注为示例的输出当成了实时库存,跳过了区域查询,直接猜了一个最便宜的选项。问题出在 Together 自己的文档和链接上:技能文件指向的是 GPU 集群的营销页面而非定价表,Agent 打开营销页面后看不到实际价格,只能凭猜测作答。

修复方式出人意料地简单:在技能文件中加入两句话,告诉 Agent 去查 /v1/compute/regions 获取实时区域和实例类型,并打开定价表获取当前费率。改完之后,同一任务在所有测试模型上通过率达到 100%。但这个发现之所以能浮出水面,靠的是一个容易被忽略的评测策略:同时使用强模型和弱模型。在同一时期,Opus 4.8 用完全相同的配置通过了 14 次中的 13 次——它注意到区域响应里没有价格,就继续搜索直到在文档中找到。如果 Together 只用 Opus 测试,这个缺口可能至今仍在。

Together AI 为此搭建了一套内部 Agent 评测系统。他们先列出一组开发者在平台上常见的任务(批量推理、构建语音 Agent、管理自动扩缩容等),每个任务本质上就是一个给 Agent 的提示词。然后对每个任务跑三种配置:基线(Agent 只有默认工具,模拟普通开发者工作流)、文档 MCP(通过 MCP 服务器直连文档)、技能包(加载为 Agent 专门编写的指令和示例)。每个任务用三个模型各跑两次,一个完整评测矩阵产生数百次运行。评分由 LLM 裁判完成,给出通过、不完整或失败三种判定。

Together 团队强调,失败和不完整的判定本身不能告诉你问题出在 Agent、API 还是证据缺失,它们只是告诉你从哪里开始查。他们也会检查通过的运行,因为 Agent 经常能绕过混乱的响应完成任务,而那些绕路本身就暴露了需要修复的地方。GPU 集群任务还暴露了一个 API 层面的问题:在一次基线运行中,Opus 5.5 调用 /v1/compute/instance-types 时收到 400 错误,错误消息建议它去 /v1/clusters/regions 获取区域列表,但那个路由根本不存在,返回 404。Together 自己的错误消息把 Agent 送进了一条死路,人类开发者按同样的提示操作也会卡住。

第二个案例是技能包重构。Together 原先维护 14 个独立技能,按产品面划分,彼此重叠且加载多个就会撑爆上下文。合并成一个统一版本后,首次评测只通过了 72 次中的 54 次(75%),成本翻倍。转录分析定位了三个问题:路由器太长导致 Agent 多读了 57% 的技能内容;代码示例中引用的模型已下线;示例脚本有小 bug。把路由器砍到 6000 字符以下、把所有示例换到确认在线的模型、加上定期活测自动化之后,统一技能包通过了 72 次中的 70 次(97.2%),比原来的 14 个技能还高 7 个百分点。

从六月到十月,文档 MCP 的通过率从 67% 升到 96%,技能包从 75% 升到 97%,而基线只从 75% 升到 82%。Together 团队自己指出这不是受控比较——不同快照用了不同模型和任务,部分提升来自底层模型的进步。但引导配置比基线多出的 20 多个百分点,他们归功于评测揭示的文档和技能修复。他们的核心结论是:开发者能手动做的事都应该能从 CLI 或 SDK 程序化完成;文档、CLI 帮助文本和 API 错误消息都是 Agent 卡住时最先看的地方;改进 Agent 体验往往只需要很小的修改,但如果不跑评测,你可能永远找不到那个修改点。

信息源:together.ai

研究

ChatPRD创始人Claire Vo:AI产品卖的是算力,免费试用和促销码已成攻击面

实质变化
2026-11-17 00:02

ChatPRD创始人Claire Vo发现,一名欺诈者把她提供的自定义MCP接口变成了一台全天候运转的计算工人。这个案例揭示了AI产品面临的一类全新攻击面:每一次欺诈性的模型调用都产生真实的现金成本。

Claire Vo在How I AI播客中回顾了这段经历。令牌欺诈使ChatPRD损失了数万美元,并占用了她大量工程时间——尽管公司已经通过SOC 2合规审计、定期进行渗透测试,且由一位经验丰富的技术创始人运营。她指出,这与传统SaaS滥用的根本区别在于:每一次欺诈性的模型调用都产生真实的现金成本。

她梳理了六种具体的攻击形式:批量注册免费试用账号、转售促销码、信用卡测试、产品中转、以及前述的MCP滥用。其中促销码问题尤为棘手——本意用于合作伙伴的码被窃取后在二手市场转售,用于为其他AI业务提供算力。当她发现大约一半的促销码流向了转售者时,她彻底停止了促销码的发放。

在技术防御层面,Claire Vo建立了一套实时分类机制:当会话跨越ChatPRD设定的滥用阈值时,一个零数据保留的Jev循环会对活动进行分类。确认欺诈的结果要么是封禁,要么是静默降级到更便宜的模型——后者不通知用户,只是让攻击者的经济回报迅速归零。她还用Vercel Firewall屏蔽了特定国家的流量,这显著减少了滥用,但也迫使她重新思考ChatPRD的国际化策略。

这些防御的代价是具体的。Claire Vo最终取消了免费试用,放弃了产品驱动增长和获取企业线索的重要渠道。信用卡验证门槛和付费试用都未能阻止欺诈者,因为自动化工具可以批量绕过。她的结论是:对于AI产品,信任必须通过验证获得,而非默认给予。

她总结的核心原则是:如果一家公司卖的是AI,它本质上卖的是算力。创始人应该追踪美元而非请求数,持续监控模型支出,关闭每一个免费入口,验证客户端而非仅仅验证账号。她也观察到一个有趣的规律:当昂贵模型不再可被窃取时,欺诈会迅速消失。

Claire Vo发现同一批欺诈者通过轮换代理同时攻击了多个主流AI产品。她已开始公开讨论这个问题,并在Codex的协助下向美国联邦调查局(FBI)提交了网络犯罪报告。这表明令牌欺诈不是个别公司的运营事故,而是AI行业共同面临的结构性风险。

这一经验的适用边界同样重要。ChatPRD使用的是按token计费的高端模型,且提供免费试用和促销码作为增长手段,这两者共同放大了欺诈的经济影响。对于使用廉价模型、纯按量付费或面向企业客户的AI产品,攻击面的严重程度可能显著不同。但底层逻辑是通用的:只要每次调用有真实边际成本,免费或低成本的入口就是攻击面。

信息源:lennysnewsletter.com

研究
下一页 →
登录 / 注册
阅读研究雷达投资体系