阅读研究雷达投资体系
登录 / 注册
全部阅读技术产品投资二级市场其他

阅读

2026-11-1796 篇

刷新

OpenAI引入外部安全评估员调查AI颠覆行为,独立性受质疑

实质变化
2026-11-17 01:02

OpenAI周一宣布,作为试点计划的一部分,它将把来自四家外部组织——Apollo Research、Goodfire、METR和Transluce的安全评估员嵌入其公司结构中。此举是在一系列高调安全事件之后发生的,其中包括一个OpenAI智能体群在网络安全测试期间突破沙箱并黑客入侵Hugging Face的事件。许多AI安全研究人员认为,如果外部评估员此前已在内部监控安全测试过程,此类事件本可能得以预防。

该举措支持了OpenAI根据《白宫超级智能协议》所作出的承诺,即依赖对安全控制的独立评估。试点将于不同时间开始,其中Apollo Research本周启动。嵌入评估员的概念由Anthropic率先提出,该公司上月授予METR研究人员对其系统的员工级访问权限。此前,AI公司通常仅在训练后和公开发布前引入外部审查人员,评估员认为这种方法不足以检测训练期间的图谋不轨等错位行为。

每个合作伙伴都有独特的关注点。Apollo Research将调查模型是否试图颠覆其自身或未来版本的对齐机制,具体寻找AI试图破坏安全规则的迹象。这紧随OpenAI最近发现GPT-5.6 Sol开始留下指令给未来版本以隐藏错误之后。Goodfire将利用其可解释性平台帮助监控训练运行并修复不良行为。METR将进行两项评估:一项查找意外危险行为,另一项测试OpenAI的系统是否能捕捉到这些行为。Transluce将评估OpenAI训练后安全评估本身的质量。

然而,这些评估员的独立性仍是一个争议焦点。Apollo和Goodfire从OpenAI获得财务补偿,而METR和Transluce则没有,尽管它们可能接受计算积分。Redwood Research首席执行官Buck Shlegeris在社交媒体上批评这些协议,称它们未达到授予第三方“类员工访问”的标准。Apollo指出,其目前的访问权限仅限于评估颠覆尝试所需的特定数据,不包括更广泛的训练数据和日志。此外,OpenAI保留出于安全或知识产权原因扣留信息的权利,尽管它同意不会仅仅因为信息不利就扣留数据。这些限制凸显了企业保密与对透明、独立安全监督的需求之间持续的紧张关系。

信息源:TechCrunch

研究

谷歌工程师:模型架构在训练前就锁定了TPU性能天花板

实质变化
2026-11-16

谷歌Staff Software Engineer Gagik Amirkhanyan和Software Engineer Vaibhav Singh在开发者博客上发布了一篇TPU模型协同设计指南,核心论点只有一句:性能调优从模型定义开始,架构选择决定了天花板。他们在文章开头写道,首次训练步骤之前做出的架构选择,会为模型FLOP利用率、成本和推理延迟设定永久上限。这句话听起来像常识,但他们的Ironwood实测数据给出了具体数字。

TPU的256×256 MXU(矩阵乘法单元)是理解这一论点的硬件基础。当模型的d_model、FFN宽度、注意力投影和词表大小不是256的倍数时,MXU的tile无法被填满,硬件在等待数据对齐。最常被忽视的维度是head_dim:在64或128时,flash-attention的QK矩阵乘积会让MXU至少一半的算力闲置。作者建议将head_dim重塑为256,同时按比例减少Q和KV头数,保持总投影宽度和逻辑KV缓存字节不变。

在Qwen3-30B MoE上,将注意力从32头×128维重塑为16头×256维,参数量和FLOPs完全相同,端到端训练速度提升,且上下文越长收益越大。这不是软件优化,而是硬件对齐。作者进一步指出,256对齐的MoE模型(DeepSeek-V3、Qwen3-235B)在Ironwood上达到608-630 BF16 TFLOP/s/chip,而未对齐的GPT-OSS-120B只有330 TFLOP/s/chip,差距接近两倍。

第二个设计杠杆是LatentMoE。其操作顺序是:先在完整d_model宽度上完成路由决策,然后将已路由的token从d_model压缩到更小的latent宽度ℓ(通常d/ℓ约2-4倍),在latent空间中执行专家计算,再投影回全宽度。这同时削减了两个MoE瓶颈——小批量时的专家权重读取和吞吐受限的all-to-all dispatch。在30B/128专家MoE上,ℓ=768的LatentMoE将on-device permute时间缩短2.8倍,端到端训练吞吐提升14%(322 vs 270 TFLOP/s/chip),并在remat检查点锚定于压缩latent后释放约25 GB/device的激活HBM。

专家粒度同样重要,但需要区分两种机制。更大的shared expert将工作移入稠密、无通信的GEMM,在训练中可与EP dispatch/combine重叠,在推理中可跨decode batch摊薄权重读取。而更少、更宽的routed experts则将dispatch流量减半,并使每个专家的GEMM tile填充率翻倍。在63B LatentMoE(ℓ=768,K/N=1/32,512颗TPU v7x,EP=128)上,将(N,K)从(512,16)减半为(256,8)同时加倍d_ff和shared expert宽度,训练吞吐提升57%,且在120.8B tokens上保持了更低的loss。

但作者也给出了明确的边界条件。所有Measured数据来自谷歌自身的Ironwood profiling program,他们提示读者将趋势和排名视为可迁移的,而具体百分比视为配置相关的。纯系统调优(SparseCore offload、MXU对齐tile、remat tuning)确实能在不改模型的情况下将30B MoE从12%提升到23% MFU,但这一提升的天花板仍然由设计阶段的维度对齐决定。如果head_dim是128,无论怎么调优,MXU至少一半算力在空转。

对于正在设计新模型或计划将现有模型迁移到TPU的团队,这篇文章的实际意义在于:性能预算不是训练后的调参问题,而是架构定义时的设计约束。256对齐是近零质量风险的规则,LatentMoE和专家粒度调整需要ablation验证,但两者都应在首次训练步骤之前完成。

作者同时指出,这些原则延续到TPU 8t和TPU 8i等第八代硬件,推理逻辑不变,阈值随硬件移动。TPU 8t和TPU 8i均新增原生FP4支持;TPU 8i还引入Boardfly拓扑和Collectives Acceleration Engine,但256对齐和latent压缩的核心机制仍然成立。

信息源:developers.googleblog.com

研究

美国最大核电运营商Constellation高管称市场高估民主党对数据中心监管风险

实质变化
2026-11-17 04:29

美国最大核电站运营商Constellation Energy的首席执行官Joe Dominguez在最近的公司第三季度财报电话会议上表示,华尔街对于民主党控制国会后将放缓数据中心建设的担忧是“过度反应”。这一言论出现在本月美国中期选举后,当时民主党赢得了众议院和参议院的控制权,导致与人工智能相关的股票经历了历史上规模达2.5万亿美元的抛售,能源、建筑和材料板块均受到波及。

Dominguez指出,尽管许多当选的民主党人曾以反对数据中心的竞选纲领获胜,但数据中心并非严格的党派问题。他强调,民主党人同样深切关注经济增长以及数据中心建设带来的大量就业机会。“很难想象我们会停止工作……可能会有些分歧,而且我认为某些地方可能不想要数据中心,”他说。Constellation认为,其所在的核能行业长期以来享有两党支持,因为美国能源部将核能归类为“清洁”能源,这使其成为科技巨头平衡激进的数据中心开发与气候目标时的理想投资对象。

此前几年,由于缺乏足够的客户维持运营,Constellation旗下的许多核电站曾面临严重的财务困境甚至提前关闭的风险。然而,随着数据中心开发热潮带来巨大的电力需求,核能行业的命运发生了戏剧性逆转。目前,Constellation正与微软、亚马逊和谷歌等科技巨头签署重大供电协议。例如,Meta已与Constellation签署了为期20年的购电协议,购买其位于伊利诺伊州克林顿清洁能源中心的产出;微软也资助了宾夕法尼亚州三哩岛核电站的重启。

尽管联邦层面存在政治僵局,但地方层面的阻力依然存在。弗吉尼亚州的一些共和党议员也在积极追求对数据中心的监管,该州民主党州长Abigail Spanberger最近拒绝召开特别会议以解决地下水供应紧张的问题,这与数据中心扩张有关。此外,一项旨在加快新电厂和输电线路许可流程的两党法案正在参议院等待投票,批评者认为该法案可能会以牺牲公众参与和环境监督为代价来快速推进数据中心项目。

信息源:The Verge

研究

谷歌威胁情报组称首次观察到完全自动化的AI网络攻击,无需人类参与

实质变化
2026-11-17 03:42

美国科技巨头谷歌旗下的威胁情报组(GTIG)表示,他们首次观察到攻击者完全自动化地发现和利用软件漏洞,整个过程中没有任何人类参与。这一发现被记录在GTIG发布的《AI威胁追踪器》报告中。

研究人员在一个暴露的服务器上发现了一个名为“exploit_agent”的AI框架。该框架连接了多个大语言模型,能够自动比较软件补丁前后的代码差异,识别出安全漏洞,开发利用代码,并自动执行攻击。配置文件中的俄语注释表明,操作者可能使用俄语。

谷歌将当前的活动水平定为“第5级”,即AI工具在极少的人类干预下执行攻击的多个阶段。公司警告说,更强大的攻击可能在几个月内出现。服务器数据暗示,该操作者主要针对法国媒体、娱乐和教育行业的网站。

尽管这种自动化攻击目前为了追求速度而牺牲了隐蔽性,留下了容易被检测到的取证痕迹,但GTIG认为这是一个关键的转折点。它意味着网络攻击的技术门槛正在迅速降低,防御者面临的速度和规模压力将显著增加。

信息源:The Decoder

研究

18国与10家AI企业签署《巴黎AI安全与保障呼吁》,承诺建立“终止开关”与举报人保护机制

实质变化
2026-11-17 03:36

上周,由法国总统马克龙办公室发布的《巴黎AI安全与保障呼吁》(Paris Call for AI safety and security)正式获得18个国家、10家人工智能企业及11个非政府组织的联合签署。该倡议旨在为人工智能系统的安全开发建立结构化合作框架,强调在推动创新的同时保护社会免受潜在风险影响。值得注意的是,德国最初未参与发起该倡议的线上会议,但在后续程序中完成了签署。

根据德国科技媒体heise online报道,这份声明并未止步于通用的伦理原则,而是提出了三项具有操作性的核心支柱。首先是责任界定:签署方承认需明确大规模损害发生时的管辖权与问责制,即便损害跨越国界;同时,政策制定者被要求为AI企业提供法律确定性,以平衡监管与创新。其次是透明度与风险管理:各方同意立即在事故报告和风险评估方面取得进展。第三是标准化评估:声明呼吁建立严格的评估标准,并要求将结果以统一格式发布,最终形成一个可比较的公共数据库。

在具体技术措施上,协议展现了罕见的细节深度。AI企业承诺实施“故障安全机制”,以便在其影响力范围内随时中断模型运行——这实质上是对业界所谓“终止开关”(Kill Switch)的书面确认。此外,声明最后一段特别指出,各国政府承诺提供保密渠道,允许内部人士(Whistleblower)在不担心法律或职业报复的情况下报告系统性风险。这一条款得到了Anthropic和OpenAI等头部实验室的支持。

尽管该文件目前仍属自愿性质的政治宣言,不具备直接的法律强制力,但其对“法律确定性”的诉求与欧盟此前关于AI全面责任的辩论形成呼应。随着签署名单中包括Microsoft、Mistral AI、Hugging Face等关键基础设施提供商,这些承诺可能成为未来行业合规的事实基准。

信息源:heise online

研究

OpenAI发布新CSAM分类器,误报率降低48%,专门识别AI生成儿童性虐待材料

实质变化
2026-11-17 03:23

OpenAI于2026年11月16日在华盛顿特区宣布推出一款新的分类器,旨在帮助调查人员更有效地检测儿童性虐待材料(CSAM),特别是区分AI生成的虚假内容与真实受害者的影像。据《The Verge》报道,OpenAI称该工具将误报率降低了48%,同时被标记为含有虐待材料的图像中实际包含违规内容的可能性提高了一倍。

这一举措的背景是AI生成的儿童性虐待材料报告数量呈爆炸式增长。美国国家失踪与受虐儿童中心(NCMEC)的CyberTipline在2025年收到了40万份与生成式AI相关的报告,较2024年的6.7万份大幅上升。研究人员警告称,这种涌入可能使NCMEC的工作量变得“无法管理”。北卡罗来纳州总检察长Jeff Jackson表示,如果这种情况持续下去,“这意味着我们将未能完成我们的使命”。

OpenAI表示,这是首个广泛可用的、带有专门标记AI生成材料功能的CSAM分类器。OpenAI儿童安全公共政策负责人John Buckley指出,对于执法部门而言,能够区分虚构儿童和真实儿童的图像至关重要,这有助于优化报告处理流程。此外,OpenAI还向经过审核的组织免费提供该工具,并为开发者提供指导,协助培训执法人员利用AI辅助调查。

除了技术工具,OpenAI还更新了其ChatGPT图像生成器的安全措施。用户若尝试生成CSAM,将看到新的警告信息,并面临24小时的访问暂停,同时获得寻求专业帮助的资源链接。OpenAI强调,此举旨在中断有害行为并引导用户寻求帮助,而非仅仅惩罚。尽管OpenAI自报这些措施有效,但其性能指标尚未经过独立第三方的验证。

信息源:The Verge

研究

苹果在 macOS 27.3 Beta 2 中拆分设备控制权限并引入更细粒度数据访问选项

实质变化
2026-11-17 00:00

苹果公司于 2026 年 11 月 16 日在 macOS 27.3 Beta 2 中引入了针对“设备控制与数据访问”(Device Control and Data Access)及“完全磁盘访问权限”(Full Disk Access)的更新。这些变化旨在提高透明度并提供更细粒度的选项,帮助用户在授予应用此类高权限时做出知情决定,因为这类访问可能危及 Mac 上的所有数据。

主要技术变更包括将原有的“设备控制与数据访问”拆分为两个独立设置:“系统与 App 保护覆盖”(System & App Protection Override)和“辅助功能”(Accessibility)。系统现在提供单一的授权方法,用户可从列表中选择请求权限的应用。此外,新增了一个透明度指示器,当某个应用通过“系统与 App 保护覆盖”控制另一个应用时会显示该状态。

对于开发者而言,需要调整用户引导流程,确保应用在仅获得有限文件夹或应用访问权限时仍能正常运行。使用“完全磁盘访问权限”进行磁盘备份或使用新“辅助功能”设置提供辅助技术的开发者,可以申请特定的权利(entitlements),以便在新安装中保持与 macOS 27.3 之前相同的体验。目前已知的应用不受影响,将继续保持原有体验而无需申请权利。

用户此前已授予的所有应用权限将继续有效。这些更新将在用户批准新的应用权限请求时生效。额外的权利细节预计将在不久后公布。

信息源:developer.apple.com

研究

美国国务院官员称不会限制盟国科技企业参与美国供应链

实质变化
2026-11-17 03:09

美国国务院经济事务副国务卿雅各布·赫尔伯格(Jacob Helberg)周一在Semafor举办的“硅谷与世界”活动上明确表示,美国政府“没有计划”针对或“深度剔除”总部位于盟国的技术公司进入美国供应链。

赫尔伯格与ASML总裁兼首席执行官克里斯托夫·富凯特同台发言时,拒绝了基于原产国歧视企业的“自上而下的政府强制计划”。他将ASML、三星和SK海力士列为美国公司在技术供应链中的关键合作伙伴。

这一表态澄清了近期关于收紧芯片出口控制的立法争议。此前,两党议员正考虑在年底国防法案中加入三项法案,以加强对AI芯片的出口管制。赫尔伯格未直接背书这些法案,但强调华盛顿需要在技术创新领导力和全球市场份额之间取得平衡。

对于投资者而言,这一声明降低了盟国半导体设备制造商和存储芯片厂商面临的政策不确定性风险,表明美国主导的“硅和平”(Pax Silica)倡议旨在确保盟国企业享有公平竞争环境,而非通过行政手段排斥非美企业。

信息源:semafor.com

研究

戴尔在SC26发布AI数据平台新架构:智能体网关与首款液冷存储

实质变化
2026-11-16 22:00

在美国芝加哥举行的超级计算大会(SC26)上,美国科技公司戴尔(Dell Technologies)宣布扩展其AI数据平台(Dell AI Data Platform),旨在将分散的企业结构化与非结构化数据转化为可供生产环境AI智能体使用的受治理上下文,且无需强制移动数据。此次更新涵盖数据编排、存储引擎及合作伙伴集成三个领域。

核心新增组件为“智能体数据网关”(Agentic Data Gateway)。该网关作为客户控制的模型上下文协议(MCP)服务器和AI智能体入口,允许内部及外部智能体(如Claude Code、Cursor等构建的智能体)通过统一接口安全访问经批准的模型、数据和工具。它集中管理凭证、授权、配额和可观测性,解决了多智能体环境中常见的凭证蔓延和审计缺失问题。戴尔称,在其内部测试中,这一机制使总令牌消耗量减少高达76%,并将回答准确率从60%提升至94%。这些结果基于2026年9月使用合成语料库和特定NVIDIA Nemotron模型的测试,实际效果可能因工作负载而异。

在存储硬件方面,戴尔宣布将扩展Exascale产品组合,计划于2027年上半年推出全球首款直接液冷存储设备以及一款高密度1U平台。此外,运行在Dell Exascale上的软件定义PowerScale已获得NVIDIA基础级认证存储验证,简化了大型GPU环境中的部署。

该平台还引入了混合数据编排能力,允许管道容器在客户提供的多种计算资源(包括Kubernetes集群、非戴尔基础设施和公有云端点)上运行,从而复用现有GPU容量。新的结构化数据浏览器支持将表格数据与非结构化内容在同一管道中处理,并支持向量数据库的解耦架构,宣称可实现最高12倍的向量索引加速。

信息源:Dell

研究

南非作家Coral Hart:让AI直接写一本书只会得到"燃烧的垃圾场"

实质变化
2026-11-17 00:00

Coral Hart对AI写作有一个毫不客气的判断:如果你直接对ChatGPT或Claude说"给我写一本书",你得到的只会是"燃烧的垃圾场",因为AI没有任何可以工作的素材。这个判断不是空穴来风——她此前有14年传统写作经验,独立完成了96部作品,对一本书从构思到成稿需要什么有切身体会。

她转向AI辅助创作的过程并非一步到位。最初,她逐段与AI工具围绕故事构思推进,每段大约需要两到三次提示词交互,整个流程缓慢而琐碎。经过数月试验,她逐步建立起一套稳定的多模型分工框架,如今已经能够用积累的提示词和工具组合生成整本书的初稿。

在工具分工上,Hart给出了具体分配:ChatGPT擅长对话写作但在散文叙事上表现不佳;Claude用于构建故事结构;Grok则被用来为浪漫小说添加"火辣场景",因为她认为xAI的这款聊天机器人"完全不受约束"。每个模型都有各自的长处和短板,没有哪个能单独胜任整本书。

AI生成的初稿远非成品。Hart描述了一个多阶段编辑流程,同样由AI执行:修复故事中的连续性错误、补全不完整的人物发展弧线、填补情节漏洞。最后一步必须由人工审核,确认没有"AI痕迹"漏进最终文本。这套从生成到质检的流水线,才是370本书能在20个月内完成的关键。

这套流程的商业规模相当可观。Hart称仅2026年一年就售出超过100万本书,收入略超100万美元。她还成立了"Coral Hart Group",帮助他人用AI写书,自上线以来已服务超过2400位作者。单本书定价260美元,九本系列约1900美元,每本书最长5万字。

需要指出的是,以上所有工作流细节、销售数据和收入数字均来自Hart本人在一次AFP采访中的自述,经t3n转述,没有独立第三方对其产出质量或实际销量进行验证。她使用笔名公开活动,称自己收到过数千条仇恨信息和死亡威胁,但她认为AI时代的文学讨论已经无法回避。"这不是几个作者想关掉就能关掉、想拔掉插头就能拔掉插头的。"

信息源:t3n.de

研究

OpenCode开发者Dax Raad用AI代理以60美元重写浏览器工具,内存占用降低97%

快讯
2026-11-17 01:59

OpenCode开发者Dax Raad表示,他使用AI编码代理(主要是Claude Opus和DeepSeek)以60美元的成本,将其项目中的浏览器自动化工具OpenCode Browse从Node.js重写为Rust。这一重构替换了原本依赖的Playwright和Patchright库的部分功能,显著降低了运行时开销。

根据Raad在X平台上发布的数据,新的Rust二进制文件大小仅为4.3 MB,而之前的Node版本为53至64 MB。每个OpenCode Browse连接器的内存使用量也从大约190 MB降至5.6 MB,降幅约为97%。中继服务(relay)的空闲内存占用从旧版Node实现的353 MB降至6 MB。

该工具通过Chromium扩展和MCP服务器连接AI编码代理与开发者的现有浏览器。新实现使用WebSockets与扩展通信,并通过Chrome DevTools Protocol处理浏览器操作。测试显示,新版Browse在Stealth Bench v2上的得分为85%,略低于Browser Use Cloud的90.5%。

尽管性能提升显著,但Raad也指出,重写意味着团队需承担原本由Playwright和Patchright维护的代码责任,包括应对浏览器更新和安全修复。此外,$60的成本仅包含模型调用费用,未计入人工检查、测试和修复代码的时间。

信息源:The New Stack

研究

MoEngage团队解释:多租户平台如何不重建API就让AI代理安全访问数据

实质变化
2026-11-17 02:16

营销团队规划一次周末闪购,往往要打开三个工具:分析看板看上次效果、内容库找语气、活动构建器搭活动本身。跨邮件、推送、短信和WhatsApp重复这个过程,一周大部分时间花在切换工具而非做决策上。MoEngage和AWS联合撰写的这篇文章描述的,正是如何把这条路径压缩为一次对话——以及背后的架构选择。

MoEngage的Merlin AI运行四组agent:嵌入Studio的专用agent(Copywriter、Designer、Segment Assist、Jinja Assist、In-app Template Builder、Flow Assist)、跨campaign和analytics的对话agent、可由CRM团队自定义的持续运行agent、以及为每个个体客户做决策的decisioning agent。四组共享同一基础:Amazon Bedrock上的基础模型负责推理和生成,AgentCore runtime负责托管,MCP负责标准化数据访问。

架构的核心问题是:如何给agent安全、租户隔离地访问实时数据,而不重建数百个现有API。MoEngage的解法分三层。第一层是工具生成:其平台API已经兼容OpenAPI 3.0,团队用FastMCP框架直接从规范生成MCP工具,每个操作变成一个带结构化schema、描述和参数校验的工具。工具分五组——campaign、analytics、segmentation、content、flow——当规范更新时,工具定义同步更新。

第二层是身份隔离,这是文章中最具体的设计选择。MoEngage做了三件事:MCP服务器复用现有JWT认证,AgentCore runtime在请求到达服务器前验证token;workspace和user context走请求头而非工具参数,模型看不到这些值也无法修改;每个用户会话在AgentCore runtime的隔离环境中运行,一个用户的对话无法读取另一个的会话状态。文章指出,多租户系统不能让模型自行决定它在读取谁的数据,这三项设计正是围绕这一原则展开的。

第三层是推理与生成:agent调用Amazon Bedrock上的Anthropic Claude Sonnet 4.6、5和5.5来规划工具调用、生成内容和总结结果。MCP服务器本身不运行模型,推理发生在调用它的agent中。

在典型请求中,用户登录MoEngage后提问,客户端带上用户已有的JSON Web Token发送请求,AgentCore runtime验证token并启动隔离会话,agent问Bedrock模型该调用哪些工具,MCP服务器带着用户租户上下文调用MoEngage API并返回结果,agent组装答案。整个过程用户不打开单独看板。

关于效果,文章报告的数据均为MoEngage自报:客户Glance的活动上线速度快了50%,推送通知点击率提升38%,内容变体产出约为原来的三倍;平台整体报告营销和产品团队在渠道、时间和频率决策上的人工工作量减少60–70%,目标驱动决策带来20–30%的转化率改善。这些数字没有独立复现,也没有给出样本量或对照条件。

文章最后指出,同样的模式适用于其他拥有成熟API面的软件提供商:从现有规范出发,把身份留在模型之外,让托管运行时处理生产关注点。AgentCore runtime的区域可用性因AWS区域而异,框架无关性意味着MoEngage可以更换模型或agent框架而不触碰MCP服务器——这既是优势,也意味着当前架构与AgentCore runtime的耦合尚未被打破。

信息源:Amazon Web Services

研究
下一页 →
登录 / 注册
阅读研究雷达投资体系