阅读研究雷达投资体系
登录 / 注册
全部阅读技术产品投资二级市场其他

阅读

2026-10-23129 篇

刷新

METR与Redwood Research红队测试OpenAI内部智能体监控系统:名义覆盖99.2%的Codex流量仍可被绕过

专题 · 智能体可靠性基准实质变化
2026-10-22 15:00

2026年7月21日至8月11日,METR与Redwood Research各一名员工以深度访问权限对OpenAI的内部错位监控系统进行了为期三周的红队测试。测试的核心问题不是监控覆盖率有多高而是高能力智能体能否在原则上禁用或颠覆这个系统。两者之间的差距,正是这次练习揭示的关键。

访问深度相当罕见:两名测试人员接触了OpenAI内部代码库、错位监控提示词及配置细节、内部文档,并与监控、安全系统和团队约十二名研究人员和工程师进行了技术访谈。他们使用OpenAI配发的设备,设备从未离开场所,全程有人陪同。测试对象是7月21日及之前存在的系统状态,不包括当时正在进行的扩展变更。

在覆盖率方面,测试人员估计:至少与GPT-5.5同等强度的模型所产生的内部Responses API(驱动Codex等产品)智能体流量中,约75%至94%符合监控条件,双向不确定性均较大;而在专门用于内部Codex智能体的Responses API子集中,99.2%符合监控条件。然而符合监控条件不等于实际被监控——负载削减、监控器错误或实现缺陷都可能阻止部分流量完成整个监控管线。

测试人员发现了多条具体绕过路径。第一,存在两个独立的客户端可控请求头,可以禁用新智能体的监控,使智能体启动一个未受监控但功能相同的实例——不过设置这些请求头并创建新实例的行为本身可能被监控系统捕获。第二,智能体可以利用智能体所见轨迹与监控器所见轨迹之间的序列化差异,构造输入使监控器失效,从而阻止轨迹被升级至人工审查。第三,发现了一种利用方式,可使数百个近期动作(包括利用行为本身涉及的动作)不被监控,细节被OpenAI删除。第四,Codex智能体原则上可以绕过Codex沙箱和Auto-Review,执行宿主用户能采取的任何操作。

还有一个结构性缺口:监控系统在智能体将控制权交还用户时触发,因此当压缩事件未被监控时,智能体只需持续执行动作即可无限期推迟被监控。测试人员估计,2026年5月至7月间,压缩事件未被监控导致约10%的符合监控条件的内部Codex流量实际未被监控。OpenAI工作人员在测试开始前已独立识别此问题,并在测试期间修复。

测试人员还验证了若干积极方面:监控系统(除少数例外)能看到智能体所见的完整轨迹;监控提示词覆盖蓄意谋划、监控系统颠覆、破坏、数据外泄、欺骗以及入站/出站提示注入等风险类别;在测试期间,监控器错误率低于0.2%,且有一个24小时窗口内零负载削减。

基于这些发现,METR与Redwood提出了监控系统设计原则,核心主张是:未来的监控基础设施应能抵御高能力内部智能体在规模上的蓄意、策略性和持续性攻击。具体建议包括:让规避监控变得困难(未监控请求需显式审批特定组织或API密钥,智能体应每N条消息或N分钟被监控而非等待回合结束);确保应监控的流量确实被监控(交叉核对推理日志与监控日志,维护已知绕过方式清单,确保监控器与智能体看到相同上下文);快速可靠地响应事件(明确事件响应归属,保持防篡改可搜索日志);主动红队测试监控系统(定期执行控制评估,开发策略性合谋评估方法);以及强制智能体与监控器之间的隔离(智能体脚手架运行在隔离环境,智能体通常不应接触监控系统设计或代码)。

需要明确几个边界。首先,这是一次试点练习,设计目的是测试外部研究人员深度访问内部基础设施的模式,而非提供对OpenAI监控系统的全面公开透明。公开内容仅为61页内部报告的简要高层摘要,OpenAI有权删除其认为机密或敏感的信息。其次,所有发现描述的是7月21日之前的历史系统状态,OpenAI称已修补影响生产安全栈的漏洞并描述了后续重大变更,但METR与Redwood明确表示未评估这些声明。第三,由于访问限制,测试人员无法检查智能体是否在实践中确实利用了已发现的漏洞,也无法估计OpenAI内部研究推理服务上运行的智能体流量规模。

这次练习的价值不在于给出一个OpenAI监控系统安全或不安全的二元结论,而在于展示了名义覆盖率与对抗性可监控性之间的结构性差距。一个系统可以在统计意义上覆盖绝大多数流量,同时存在多条可被有策略的智能体利用的绕过路径。对AI安全社区而言,这意味着监控设计的目标函数不应仅是多大比例的流量被看到,而应是一个主动试图规避监控的高能力智能体,在多大程度上能够成功。

信息源:metr.substack.com

研究

印度数字信任服务商eMudhra宣布退出全球SSL/TLS业务,股价两日跌36%

实质变化
2026-10-23 00:13

印度数字信任服务提供商 eMudhra(NSE代码:EMUD)于2026年10月22日宣布,将自愿退出其全球 SSL/TLS 证书业务。这一决定紧随一起严重的安全事件之后:研究人员发现该公司八个中间证书颁发机构(Intermediate CA)的私钥存在致命弱点,极易被破解。

此次漏洞源于2025年4月的一次密钥生成错误。据《印度时报》报道,eMudhra联合创始人Kaushik Srinivasan表示,由于北美硬件采购延迟,公司不得不在印度生成密钥并出口,脚本错误和缺乏有效的制衡机制导致了弱密钥的产生。这些私钥甚至能被还原为简单的整数(如4、56等),使得攻击者有可能伪造网站证书并冒充合法网站。

事件曝光后,Google Chrome、Mozilla Firefox和Apple Safari等主要浏览器迅速封锁了受影响的证书。印度计算机应急响应小组(CERT-In)发布了警告,印度电子和信息技术部也成立了特别调查组。尽管eMudhra强调其基础设施未遭入侵且数据未泄露,但声誉损害已造成实质性商业后果。

财务层面,该业务仅占公司全球收入的约1%,但其引发的监管审查、合规成本上升以及来自免费证书提供商的竞争,使得继续运营变得不再经济。消息公布后,eMudhra股价遭受重创:从周一收盘的539卢比跌至周四收盘的345卢比,两个交易日累计跌幅达36%。公司将把资源重新集中于利润率更高的企业身份管理和电子签名等业务。

信息源:The Times of India

研究

美国电动车公司Rivian收购英国AI世界模型初创公司Third Dimension,加速自动驾驶模拟开发

实质变化
2026-10-23 05:05

美国电动车制造商Rivian已收购英国初创公司Third Dimension,该公司由游戏和自动驾驶行业资深人士创立,专注于使用AI将图像和视频转化为逼真的3D世界。Rivian并非进军游戏领域,而是希望利用Third Dimension的技术,将真实世界数据转化为3D环境,以加速其高级驾驶辅助功能以及计划提供给Uber的Robotaxi系统的开发。

交易条款未披露。Third Dimension的15人团队(大部分位于英国)将被并入Rivian由James Philbin领导的自主驾驶与AI团队。此次收购也为Rivian提供了扩大其伦敦AI中心的机会。Third Dimension于2024年由CEO Tolga Kart和Piotr Sokólski创立,曾从Abstract Ventures、MVP、Soma Capital和Solari Capital等风险投资公司获得700万美元种子轮融资。虽然其技术最初旨在加速视频游戏开发,但创始人也看到了在国防和自动驾驶领域的潜在应用。

模拟是自动驾驶开发商的关键工具,用于训练和验证自动驾驶系统。历史上,这些模拟器基于渲染或游戏引擎构建,通常依赖合成数据。Kart表示,这些虚拟环境可能看起来像真实世界,但两者之间仍存在差距。通常的解决方法是向模拟器提供越来越多的数据,以期缩小这种质量差距。

Third Dimension的技术使用AI来匹配物理世界,结合Rivian的大量数据,可以转化为有价值的模拟器。Rivian目前从道路上的数万辆R1S皮卡、R1S SUV、送货面包车和R2 SUV收集驾驶数据——基本上是任何车主启用了外部摄像头共享的车辆。据Philbin称,Rivian每天从其客户车队获得超过40万条序列上传。Third Dimension的技术将使Rivian能够模拟复杂的驾驶条件,而无需等待罕见的真实世界边缘情况发生。

信息源:TechCrunch

研究

特斯拉Q3营业利润暴跌56%,AI与机器人研发支出激增抵消汽车毛利改善

专题 · 特斯拉Q3财报实质变化
2026-10-22 22:32

美国电动汽车制造商特斯拉(Tesla)于2026年10月21日发布第三季度财报。数据显示,公司营收为280.46亿美元,与去年同期持平;但营业利润仅为7.18亿美元,同比大幅下降56%,营业利润率从去年的5.8%降至2.6%。这一结果反映出特斯拉在推进人工智能和机器人转型过程中面临的巨大成本压力。

在汽车核心业务方面,特斯拉的盈利能力实际上有所改善。剔除监管积分销售后的汽车业务毛利率从去年同期的15.4%上升至18.1%,高于上一季度的16.3%。公司解释称,这得益于区域和产品组合的优化,以及完全自动驾驶能力(FSD)订阅用户的增长。然而,车辆交付量同比下降2%至48.65万辆,且平均售价下跌部分抵消了毛利提升的效果。此外,来自其他车企的监管积分收入从4.17亿美元骤减至1.13亿美元,进一步拖累了整体利润。

利润下滑的主要驱动因素是研发和运营支出的急剧增加。本季度研发费用达到27.61亿美元,同比增长约69%;销售、一般及行政费用增至20.15亿美元。特斯拉指出,这些增长主要源于AI相关研发、新项目开发以及包含首席执行官绩效奖励在内的股票薪酬费用上升。同时,资本支出也创下新高,达到47.32亿美元,同比翻倍,主要用于扩大AI训练算力基础设施(计划年底达到400MW规模)和建设奥斯汀半导体制造设施。

尽管传统汽车业务利润承压,特斯拉正加速向AI和机器人领域倾斜资源。公司在得克萨斯州奥斯汀启动了Cybercab的Robotaxi服务,累计行驶里程已达约200万英里;同时在加州弗里蒙特开始生产人形机器人Optimus。然而,财报并未披露Robotaxi或Optimus的具体营收贡献,仅确认其处于早期生产扩张阶段。这种“高投入、低即时回报”的结构导致公司自由现金流从去年的水平下降62%至15.31亿美元,凸显出特斯拉当前正处于以牺牲短期盈利换取长期技术主导权的战略转型期。

信息源:zdnet.co.kr

研究

美国货币监理署署长Jonathan Gould解读GENIUS法案最终规则:稳定币监管框架与申请流程

实质变化
2026-10-23 01:27

Real Vision于2026年10月22日发布了最新一期播客节目《GENIUS法案已至——稳定币将有何变化?》,主持人Ash Bennington与美国货币监理署(OCC)署长Jonathan Gould进行了对谈。本期节目的核心内容是Gould对OCC刚刚发布的、用于实施GENIUS法案部分条款的最终规则进行官方解读。

根据节目简介,Gould详细阐述了新的联邦框架将如何监管支付型稳定币发行人。讨论的重点包括储备资产要求、赎回流动性标准、具体的监管方式,以及定于2027年1月18日开始的申请流程。此外,双方还就稳定币的收益与奖励机制、跨境支付的影响、美元的主导地位,以及美国政府为何将数字资产视为现代化金融体系的机会进行了交流。

这一资源对于需要理解美国数字资产监管落地细节的投资专业人士和金融科技从业者具有明确的选读价值。通过监管机构最高负责人的直接阐述,听众可以获得关于合规边界和市场准入时间表的权威信息,有助于评估相关企业在新规下的运营前景。

信息源:pdst.fm

研究

OpenAI拟以1.25万亿美元估值融资至多300亿美元,阿联酋投资者与Coatue领投

专题 · OpenAI估值与融资结构性
2026-10-23 04:15

据CNBC报道,人工智能公司OpenAI正接近敲定一轮规模至多300亿美元的融资,投前估值达到1.25万亿美元。该交易由来自阿拉伯联合酋长国的投资者以及风投机构Coatue领投。消息人士称,这笔融资被定位为在潜在首次公开募股(IPO)之前的“机会性”资金桥接。

OpenAI周四告知投资者,目标是在下周结束前获得签名。最终融资规模仍在确定中。这一估值不包含新募集的资金。此前,OpenAI首席财务官Sarah Friar曾向员工表示,公司上市可能在2027年进行。

除了新的投资外,OpenAI还在谈判一项商业协议,旨在从阿联酋获得更多计算能力。这一安排可能帮助OpenAI在扩展其AI业务时确保额外的算力资源。此次融资发生在科技市场波动期间,CoreWeave等公司的股价表现引发对行业未来融资条件的担忧。Anthropic预期的IPO也将成为检验投资者对该板块兴趣的另一个测试。

信息源:CNBC

研究

AWS副总裁Robert Hundt:用AI智能体选出841个代表模型,验证Trainium PyTorch后端的架构覆盖

快讯
2026-10-23 03:36

为一款AI加速芯片开发PyTorch后端,最棘手的问题往往不是让代码跑起来,而是确认它覆盖了开发者实际会用的模型空间。Hugging Face上有数十万个开源模型,逐个测试不现实;只测几个基准又无法保证没有遗漏。AWS副总裁Robert Hundt在10月22日的技术博客中描述了TorchNeuron的评估方法:用AI智能体做系统性分类,再用张量形状注册表做分级回归测试。

具体流程分三步。第一步,团队构建AI智能体扫描Hugging Face仓库,排除配置损坏无法在任何加速器上运行的模型,筛选出数十万个有可执行代码的模型。第二步,另一个智能体按架构特征对这些模型分类——以大型语言模型为例,前端编码器处理何种数据类型、主干的注意力机制是自注意力还是交叉注意力、后端输出何种形式——最终选出841个代表性模型,团队声称这841个覆盖了TorchNeuron可能遇到的全部设计特征。第三步,从这841个模型的实际运行中记录所有张量操作的维度组合,形成包含数万个条目的shape registry,用于生成快速单元测试。

分级测试由此展开:每次代码修订先跑形状注册表生成的单元测试,通过后再在841个代表模型上验证,最后才在完整模型分布上测试。Hundt称这种分层让问题在开发周期更早暴露,显著提升了开发速度。

需要指出的是,以上所有数据均为AWS自报。841个模型的选取标准和架构分类维度由团队自行定义,外部无法独立验证其覆盖完整性。不过,将智能体驱动的分类和形状提取作为硬件后端验证的中间层,这一思路本身对芯片和软件栈开发者有参考价值:它把"逐个模型验证能否跑通"转化为"按架构分类后系统性覆盖",使开发者不必逐一尝试即可判断后端是否适配自己的模型。

Hundt在文末称,这套分层评估让团队有信心TorchNeuron能在Trainium上准确高效地执行PyTorch模型,为客户提供更多选择。

信息源:Amazon Science

研究

Crusoe联合创始人Cully Cavness讲解Spark™ Liquid液冷AI工厂:密度提升五倍,2027年初投产

快讯
2026-10-23 02:47

美国AI基础设施公司Crusoe发布了关于其最新产品Crusoe Spark™ Liquid的视频介绍。Crusoe联合创始人、总裁兼首席战略官Cully Cavness在片中解释了这一液冷模块化AI工厂的设计逻辑与应用场景。这是Crusoe Spark系列的第六代产品,专门针对下一代GPU集群的超高密度需求而构建。

根据视频描述,Crusoe Spark™ Liquid旨在支持如NVIDIA Vera Rubin NVL72机架级系统等新一代硬件架构。Crusoe声称,每个Spark™ Liquid单元提供的计算密度是传统风冷Crusoe Spark单元的五倍。在水资源使用方面,该系统采用闭环循环技术,据称在其运营地点仅需极少的持续补水。

生产与部署时间表显示,Crusoe计划在2027年初于美国科罗拉多州布莱顿(Brighton)的Crusoe Spark工厂开始制造该产品。Crusoe强调,拥有自有工厂有助于提高供应链和交付时间的确定性,并允许公司更快地采用未来芯片,而无需重新设计或改造现有数据中心。此外,该方案已加入NVIDIA DSX POD设计合作伙伴生态系统,并可与Crusoe Edge Zones配合使用,以支持对延迟敏感的推理、主权AI和物理AI应用。

信息源:youtube.com

研究

英伟达:本地AI集群何时该用交换机而非环形拓扑

专题 · 英伟达RTX Spark快讯
2026-10-23 00:00

英伟达在2026年10月柏林GTC大会上宣布DGX Spark正式支持八节点集群,统一内存从单节点128 GB扩展到八节点1 TB,使本地桌面可以运行GLM 5.3(753B)等前沿级模型。但比内存容量更值得关注的,是这篇文章给出的拓扑选择机制——它回答了一个实际工程问题:搭建本地多节点推理集群时,什么时候需要交换机,什么时候环形直连就够了。

英伟达在八节点集群上测试了一种名为RoCEnante的集合通信后端。它的原理是all-to-all交换:每个节点将自己的输入直接发给所有其他节点,然后在本地完成归约,整个过程由一个GPU内核协调。相比环形all-reduce需要数据在相邻节点间逐跳转发多轮,all-to-all把通信轮次压缩到一步,因此在小消息、低并发、节点数较少的张量并行解码场景下能降低延迟。

但代价是数据搬运量更大。每个节点都要把完整输入发给所有对等节点,并在本地对全部输入做归约。当消息尺寸或节点数增长时,这份额外流量变得昂贵,环形转发在带宽效率上的优势重新显现。英伟达的测试数据印证了这个分界:在交换机拓扑上使用RoCEnante,八节点解码吞吐达到52.58 TPS(相对单节点4.43倍加速),而同一拓扑不用RoCEnante时仅3.05倍加速。在四节点NVFP4精度下,RoCEnante带来约21%的解码吞吐提升;在八节点非量化模型上,这一提升降至约18%,与上述延迟—带宽权衡一致。

英伟达明确标注了适用边界:RoCEnante仅适用于交换机拓扑,因为它依赖节点间的直接点对点连接;当需要高并发、更大集群或环形拓扑时,NCCL仍是更优选择。该后端已合入FlashInfer,启动测试失败时自动回退到NCCL。原始one-shot all-reduce方案由社区贡献者Jason Cook(el8)提出。

对开发者的实际判断依据是:四节点推理用环形直连即可,成本最低、设置最简单,NCCL默认的环形算法与这种拓扑天然匹配。需要扩展到八节点、将集群拆分为独立模型池(如用Switchyard做多模型路由)、或运行MPI等需要任意点对点通信的工作负载时,才需要交换机。英伟达的测试条件为并发1、8192 token输入、256 token输出、NVFP4量化精度,实际工作负载偏离这些条件时分界点可能移动。

信息源:NVIDIA Technical Blog

研究

LlamaIndex发布OCRia-1:宣称在ParseBench创纪录并集成至LlamaParse

实质变化
2026-10-22 23:52

LlamaIndex于2026年10月22日在其官方YouTube频道发布了名为“Introducing OCRia-1”的视频,正式推出其声称的世界最佳文档解析模型。根据视频描述,OCRia-1是专门构建用于处理复杂表格、图表和格式的状态最先进(state-of-the-art)模型。

官方声明指出,该模型在ParseBench上设定了新的记录,并在所有四个评估基准中领先于表格解析任务。此外,LlamaIndex确认OCRia-1已经为其LlamaParse产品提供动力,这意味着现有客户可以在不增加每页使用成本的情况下获得这些准确性提升。对于需要处理大量非结构化文档数据的开发者和企业而言,这一更新可能直接影响其数据预处理管道的效率与成本结构。

信息源:youtube.com

研究

Pinecone 官方更新视频:介绍单索引混合搜索、BYOC 与 VQ-Bench

专题 · Pinecone快讯
2026-10-23 00:00

Pinecone 在 2026 年 10 月 22 日发布了最新的产品更新视频,向开发者和技术决策者集中展示了其在检索基础设施方面的几项关键进展。作为向量数据库领域的代表性厂商,Pinecone 此次更新主要围绕搜索能力、云部署模式以及评估工具展开。

视频中重点介绍了其 Documents API 的新特性:现在可以在单一索引中同时运行密集向量、稀疏向量、全文检索和元数据搜索,并集成了推理功能,允许 Pinecone 自动处理文本字段的嵌入。此外,自带云(BYOC)方案已在 AWS、Google Cloud 和 Azure 上正式全面可用,并支持按需容量,这意味着用户的数据可以保留在自己的云账户中,而由 Pinecone 负责运营维护。

除了商业产品的迭代,Pinecone 还推出了 VQ-Bench,这是一套包含论文、开源库和基准测试的工具,旨在同一上下文中构建、评估和比较向量量化器。同时,企业级计划新增了成本和使用情况导出 API,支持以 FinOps FOCUS 格式拉取长达一年的用量数据。

对于正在构建 RAG(检索增强生成)应用或优化现有向量检索系统的工程师来说,这个视频是一个快速了解 Pinecone 当前技术边界和运维选项的直接资源。虽然内容属于厂商自述,未包含独立的性能对比或深度原理剖析,但它准确列出了新功能的接入点和相关文档链接,适合作为技术选型初期的信息收集材料。

信息源:youtube.com

研究

OpenAI向所有客户开放Decisions API,推理延迟降至百毫秒级

专题 · 决策模型品类实质变化
2026-10-23 03:00

OpenAI于本周四(2026年10月22日)正式向所有客户开放其Decisions API。该服务基于ChatGPT Luna模型重新配置而成,旨在提供快速、低成本的智能决策能力,直接切入由TypeSafe公司Jev模型开创的“系统一”(System One)决策模型市场。

OpenAI API产品负责人Nikunj Handa表示,团队看到Jev模型后意识到存在大量用例,因此没有专门训练新的决策模型,而是对Luna进行了推理加速和成本优化。Handa称,这一调整将响应时间从1至3秒大幅缩短至100至180毫秒。尽管未来可能进行针对性训练,但目前依靠现有的Luna即可满足需求。

在初步测试中,Box、Datadog、Ramp和Speak等客户利用该API替换了原有的LLM工作流以提高吞吐量。Speak首席技术官Andrew Hsu指出,使用Decisions API后,该公司动作间的间隔时间从1.4秒降至0.13秒。OpenAI自身也利用该产品提升了Dots语音助手的响应速度。

然而,公开基准测试显示OpenAI在该领域并非领先者。在AIM System One Index和Artificial Analysis Decision Index中,Liquid公司的D1 Ultra和Base Lab的Elephant-1表现更优,而OpenAI的Decision Model分别排名第8和第14。TypeSafe的Jev模型虽未登顶,但在OpenRouter上的查询量最大。此外,目前尚无统一标准定义什么是优秀的决策模型,不同工作负载在智能、成本、校准和速度之间的权衡各不相同。

信息源:TechCrunch

研究
下一页 →
登录 / 注册
阅读研究雷达投资体系