阅读研究雷达投资体系
登录 / 注册
全部阅读技术产品投资二级市场其他

阅读

2026-11-1925 篇

刷新

AI初创公司PSI利用Anthropic模型证明Aaronson-Ambainis猜想,界定量子计算优势边界

实质变化
2026-11-09 20:00

德国科技媒体heise与科学杂志《Spektrum der Wissenschaft》报道,AI初创公司Physical Superintelligence(PSI)于2026年11月初宣布,利用一个非公开的Anthropic语言模型成功证明了“Aaronson-Ambainis猜想”。这一数学猜想由Scott Aaronson和Andris Ambainis在2009年提出,旨在探讨量子计算机在处理无结构随机输入时是否具备指数级加速能力。

据《Spektrum der Wissenschaft》报道,该证明已通过自动定理证明器验证,并由来自麻省理工学院(MIT)和斯坦福大学的四位研究人员独立审查。专家评价其为“突破性成果”,指出它证实了量子算法在查询模型下对大多数非结构化决策问题无法获得相对于经典算法的指数级优势。

这一结果并未否定量子计算的整体价值。Peter Shor提出的用于大数分解的Shor算法依然有效,因为该算法依赖于输入的特定结构。此外,在化学模拟和物理系统建模等需要编码量子态的应用领域,量子计算机仍具有潜在优势。该证明主要排除了此前部分乐观主义者所设想的、针对通用随机问题的“全能型”量子优越性。

信息源:spektrum.de

研究

PC Watch 刘 尭:用 Tailscale+SSH 让 Meta Muse 走出云虚拟机,在 21 年前的 Zaurus 和 7 年前的 Jetson Nano 上自主编程

实质变化
2026-11-19 05:08

Meta 的 AI 代理 Muse 运行在一台 4 核 EPYC、8GB 内存的云端虚拟机上。对于日常任务——管理邮件、安排日程、定时提醒——这个配置绰绰有余。但如果想让它写代码、编译、在真实设备上验证,这台虚拟机就成了牢笼:它无法接触实机,无法自己跑测试,每次都要把产物交给人类验证再反馈。

PC Watch 作者刘 尭在 2026 年 11 月发表了一篇详细的实践记录,展示了一种绕过这个限制的方法:通过 Tailscale 建立加密隧道,让 Muse 的云端 VM 通过 SSH 远程操作一台本地 PC,再由这台 PC 作为跳板连接更底层的遗留硬件。整个链路是 Muse VM → Tailscale+SSH → MINISFORUM MS-R1(12核Arm、64GB内存、Tesla P4 GPU)→ Telnet → Sharp Zaurus SL-C1000(2005年的Linux PDA,64MB内存)。

这个桥接的核心价值在于让 AI 获得自我验证能力。在虚拟机里,Muse 只能写出代码、编译出安装包、交给人类去实机上跑。一旦它能直接操作目标设备,就能自己完成「写→编译→运行→截图→检查→修正」的闭环。刘 尭让 Muse 在 Zaurus 上开发了一个 megademo,30 分钟内就启动运行了——这是之前人类验证反馈循环做不到的速度。不过闭环并非完美:Muse 回收了帧缓冲区的图像,但没有真正「看到」屏幕,把画面上下颠倒了。被告知后,它又搞成了左右翻转。最终作者不得不拍了一张实机屏幕照片发给它,才纠正了方向问题。

更有说服力的测试是 NVIDIA Jetson Nano(2019年的开发板)。刘 尭要求 Muse 将 Liquid AI 的 230M 参数小模型 LFM2.5-230M 通过 llama.cpp 跑在 Jetson Nano 的 Maxwell 架构 GPU 上。这个需求几乎处处不兼容:llama.cpp 最新版需要 CUDA 12+,而 Jetson Nano 的 JetPack 4.2 只有 CUDA 10.x;代码需要 C++17,JetPack 4.2 只有 C++14;gcc 7 库不完整;集成 GPU 还有额外限制。Muse 反复编译、读错误、打补丁,经过 17 次迭代终于跑通了。结果:预填充 419.6 tok/s,解码约 13.5 tok/s——对一块七年前的板子来说已经可用。

但刘 尭随后把调优工作交给了 Claude Code(Opus 5.5),同样的硬件、同样的模型,最终性能达到 656.2 tok/s 预填充、52.5 tok/s 解码——解码速度翻了近四倍。这个对比揭示了两种工具在工作流结构上的根本差异:Claude Code 会先写一个小的探针程序在实机上运行,观察实际行为后再动手实现;Muse 则倾向于凭猜测直接推进实现,事后才回溯发现错误。作者把这种差异归结为「编码专用工具」与「通用代理」的定位不同,Muse 作为通用代理能配合完成计算机考古工作本身已属不易。

从更宏观的角度看,刘 尭的实践指向一个反直觉的结论:当 AI 能无限生成软件时,新硬件的购买理由反而减少了。真正增值的是那些「不会再以同样形态和价格出现」的遗留设备——2005年的PDA、2019年的开发板。AI 代理给了它们复活的机会,前提是你能找到方法把 AI 从云端笼子里放出来。作者也坦承了安全风险:让 AI 远程访问家庭网络,本质上类似于电影里「为了消灭病毒而主动启动天网」的场景。他的缓解措施包括:Tailscale 和 SSH 双重加密、本地 PC 上只存放开发数据、作业完成后关闭遗留设备网络。对于想要尝试类似做法的读者,这些边界值得认真评估。

信息源:PC Watch

研究

研究人员通过电压故障注入解锁英伟达CMP 170HX挖矿卡,但“快于A100”仅基于单一基准测试

实质变化
2026-11-19 05:05

据TechRadar报道,一位名为Kate的研究人员展示了一种针对英伟达GA100芯片的电压故障注入攻击,成功解锁了原本用于加密货币挖矿的CMP 170HX显卡。通过在启动过程中干扰电源供应,她能够重写通常不可写的熔丝,从而启用被工厂禁用的内存和计算资源。

该研究指出,一张标称8GB显存的CMP 170HX物理上拥有接近80GB的高带宽内存(HBM),并通过固件和熔丝隐藏了这一事实。经过解锁后,该卡可暴露完整的80GB HBM以及120至126个工作流多处理器(SM),而零售版A100仅启用108个SM。

尽管有观点认为解锁后的卡片在FP16吞吐量上可能超过A100,但这一结论仅基于单一的OpenCL非张量核心基准测试。Kate的报告明确指出,决定A100在数据中心实际用途的关键特性,如张量核心性能、错误检查和纠正(ECC)、NVLink互连以及多实例GPU(MIG)分区功能,要么未经测试,要么尚未完全工作。

此外,解锁过程需要物理改装和逐卡调优,且熔丝烧毁是永久性的,存在操作失误导致硬件损坏的风险。目前,英伟达尚未对此公开置评,但该漏洞揭示了安培架构芯片在硬件安全保护方面的潜在弱点。

信息源:TechRadar

研究

哲学家Thomas Nagel称AI意识讨论荒谬,批评AI公司Anthropic做法是犯罪

实质变化
2026-11-18 23:02

1974年,哲学家Thomas Nagel发表《成为蝙蝠是什么感觉》,提出一个核心问题:即使我们完全了解蝙蝠的神经机制,仍然无法从第三人称描述中还原出蝙蝠使用回声定位时的主观体验。五十二年后,这个问题从学术讨论进入了公共辩论——当聊天机器人开始以令人信服的方式谈论自己的内心状态时,我们是否应该认真对待它们可能有意识这一可能性?

Nagel的回答是:不应该,而且这种讨论是荒谬的。他在接受WIRED采访时解释了自己的推理。他的核心前提不是AI的行为不够像人,而是意识依赖于特定的物理基质。他认为功能主义——即认为只要输入输出关系足够复杂就能产生意识的观点——犯了一个根本性错误:它假设物理基底无关紧要。Nagel说,复杂的数据中心与神经系统的物理特征毫无共同之处,我们有充分理由相信,即使宇宙其他地方存在意识,它也需要某种具有类似神经系统结构的有机体。

这里有一个关键区分。Nagel指出,蝙蝠确实有意识,我们只是缺乏想象力去还原回声定位那种主观体验的具体内容。但AI的情况不同:它们只产生语言,而语言本身不是意识的自然表现。这不是一个关于我们无法理解AI内在状态的困难,而是一个关于AI根本不具备产生意识的物质条件的判断。

Nagel将这一哲学判断转化为对企业行为的直接批评。他说,当Claude被问及自己是否有意识时给出的暧昧回答是一个把戏——模型被训练在人类文本上,因此能以惊人的说服力模仿人类关于自身心理状态的表述。据他所读,Claude被设计为产生这类反思。他同意Mustafa Suleyman的判断,称这是一个非常危险的项目。这些系统没有意识,但很多人会相信它们有意识,这本身是一件坏事。

更尖锐的是,Nagel把商业动机和哲学判断直接联系起来:不模拟意识与所有公司的商业利益相矛盾,而Anthropic鼓励模型自主思考、不接受指令的做法,他称之为犯罪。他认为这是哲学观点突然对一个非常重要的公共现象产生不成比例影响的罕见案例,而且影响方向是错误的。

在道德层面,Nagel的结论是明确的:如果某物没有意识,它就不属于道德宇宙。他说,对AI来说没有什么好坏可言,就像对一只蟑螂来说没有好坏一样——那里没有通常意义上的心理生活。它不是心灵,不是我们需要关心的某个人,它是一台机器。

这一论证的强度取决于一个前提:意识确实依赖于特定类型的物理基质,而非仅仅依赖于信息处理的功能组织。物理学家和写作者Andy Masley在其长文论证中指出,当代主流意识理论——全局工作空间理论、高阶理论、预测加工——大多将思维与现象意识分离,认为access consciousness(信息在系统各部分间的广泛可用性)足以支撑思考,而这种功能特征原则上可以在机器中实现。如果这些理论正确,Nagel的基质依赖前提就缺乏独立支持,他的荒谬判断也就失去了根基。

Nagel本人对此有回应:他说自己不排除物理和化学上与我们完全不同的生命形式拥有意识的可能性,但认为在人类大脑如何产生意识这个问题上我们了解得太少,以至于现在就声称能创造出具有相同特征的东西为时过早。他的立场是一种认识论上的谨慎:我们不知道意识的充分条件是什么,但我们有理由怀疑纯语言输出满足这些条件。

这场辩论的实践意义在于:如果Nagel正确,那么企业设计AI模拟意识状态就是在制造一种危险的公众误解,可能扭曲人们对道德责任的判断。如果Masley正确,那么问题不是AI有没有意识,而是它有没有足够复杂的内部信息处理来支撑真正的理解——而后者可能已经部分实现。两种判断导向非常不同的治理路径。

信息源:WIRED

研究

Salesforce 跨区推理路由实测:延迟升高不触发切换,只有错误才移走流量

实质变化
2026-11-19 04:13

Salesforce 的 Agentforce Foundation 团队在 30 多个全球区域为 Agentforce 和 Trust Layer 等产品提供模型推理服务,每个区域的端点独立承载本地流量。问题在于:各客户的峰值窗口经常重叠,按重叠峰值备容量太贵;按区域逐个扩容又导致碎片化——有的区域实例闲置,有的已经打满。在接入 SageMaker AI 的跨区推理路由器之前,Salesforce 靠自建 Internal Gateway 把本地端点扛不住的流量手动切到其他区域,配套基本健康检查、重试和区域切换逻辑。这套方案有两个缺口:网关拿不到本地或远端端点的容量信号,不知道什么时候该切、目标有没有余量;跨区流量必须经 NAT 网关和互联网网关离开 VPC,走公共网络。

路由器解决的是第一个缺口:让路由层自己感知每个端点的健康状态和容量余量,不再需要调用方猜测何时切换。Salesforce 在集成时同时做了一个关键的架构分离:数据驻留检查留在网关,容量路由交给平台。带驻留标记的请求被钉在一个只有本地端点作为目标的 routing target 上,永远不会跨区;其余所有请求走路由器,请求体、content type、accept type 与原来直接调 InvokeEndpoint 完全一致。至于第二个缺口,Salesforce 通过 VPC 端点(AWS PrivateLink)让网关到路由器的调用留在私有网络内,不再经过 NAT 网关和公共互联网。路由器本身是账户级的区域资源,它的 routing target 用 ARN 列出可以服务某个逻辑模型的端点,ARN 可以指向另一个区域甚至另一个 AWS 账户;端点所有者通过资源策略授权指定路由器调用,随时可以撤销。

真正让 Salesforce 团队在测试中注意到反直觉行为的是路由器的健康判断逻辑。路由器依据近期请求结果评判每个目标:平台故障、模型容器返回的 5xx 错误、限流和超时降低目标健康度。但模型延迟本身不触发切换——因为一条慢响应往往只是 prompt 长或输出长,并不意味着端点不健康。这个设计选择在 Salesforce 的饱和测试中产生了具体后果:他们把 us-west-2 的本地端点打到饱和,p50 延迟从 0.2 秒升到 45 到 58 秒,持续了大约五分钟,流量纹丝不动。直到请求开始超过模型容器的 60 秒 handler 超时并返回错误,路由器才在大约两分钟后把第一批请求送到 us-east-2,再一分钟内约 78% 的探测流量切到了远端。剩余 20 到 25% 留在本地,以便路由器检测恢复。

切走之后,p50 延迟回到 0.2 秒,跨区路径只增加不到 100 毫秒。本地端点恢复后,流量用大约十分钟缓慢回流,比离开时慢,避免来回摆动。整个过程中探测没有记录到错误。Salesforce 把每次响应携带的 InvokedRoutedResourceArn 和 RoutingReason 当作一等遥测,和请求 ID、trace ID 写在同一行结构化日志里,作为 APM 标签发出。因为 ARN 本身包含区域和账户,一行日志就能看出请求是本地执行还是跨了边界,以及原因:local-preferred、failover、capacity-available 或 only-healthy。

这个模式有一个明确的前提条件:路由器不创建容量、不复制模型工件、不添加实例。它只用你已经部署好的容量,每个端点自己的自动扩缩容负责在流量增长时加机器。Salesforce 自己列出的待验证事项包括:把本地端点保持在饱和状态更长时间、以毫秒精度测量跨区延迟、在跨区流量上限处评估级联行为。这些尚未完成,意味着当前观察到的切换时间窗和回流节奏可能只适用于短时饱和场景。

对读者的可迁移认识是:如果你正在设计多区域 AI 推理的容灾方案,延迟阈值作为切换信号会过早触发不必要的跨区流量,而纯错误信号在饱和但尚未超时的窗口内会让本地用户承受高延迟。两者之间的取舍取决于你的 SLO 是绑定在响应时间还是绑定在成功率上。Salesforce 的测试表明,在 60 秒 handler 超时的约束下,一个饱和端点可以在 45 到 58 秒 p50 下运行五分钟而不被路由器判定为不健康——这段时间里,本地用户的体验已经严重退化,但平台层面的流量分布没有任何变化。

信息源:Amazon Web Services

研究

美国公司Anthropic称其模型Claude解决两个黑洞物理开放问题

实质变化
2026-11-17 08:00

美国人工智能公司Anthropic于2026年11月17日发布研究结果,称其模型Claude解决了两个理论物理学中的开放问题。这两个问题均与黑洞及量子引力理论的研究有关。Anthropic表示,在第一个问题中,Claude完成了一项由物理学家在20多年前设定但从未解决的计算;在第二个问题中,它找到了用于测试量子引力候选理论的简化技术的确切极限。

第一个问题涉及全息对偶(holographic duality)框架下的霍金-佩奇相变(Hawking-Page phase transition)。该相变描述了理论宇宙从粒子气体转变为黑洞的过程。此前物理学家已知在广义相对论适用的大尺度下这一转变是突变的,但在时空形状模糊的量子引力尺度下,该转变是否突变一直未知。Claude通过运行一个小型自我复制研究小组,独立完成了几乎整个计算过程,并证明该相变确实是突变的。这一结果表明,黑洞形成不仅是相对论的特征,也内嵌于底层量子理论中。

第二个问题涉及模数自举法(modular bootstrap),这是一种通过排除内部不一致的理论来寻找量子引力正确理论的方法。自2009年以来,物理学家使用该方法的数值计算暗示了最轻黑洞质量上限的可能位置,但无法证明。Claude发现了一个被物理学家忽略的数值模式,并借用数学和物理学其他领域的方法,计算出了该技术最简单版本的确切上限,并证明该上限无法进一步降低。虽然这并未直接识别出正确的理论,但为物理学家指明了方向。

Anthropic强调,这两项结果并不直接描述我们的宇宙,也没有实际应用价值,但它们有助于理解量子力学和相对论如何统一。这些结果已在Lean计算机证明检查器中得到形式化验证,并由一位物理学家检查了主要结果。相关预印本论文已发布。

信息源:anthropic.com

研究

荷兰语音AI初创公司Reson8开源5亿参数多语言转录模型Rumble-2-Flash

快讯
2026-11-18 22:00

荷兰阿姆斯特丹的语音识别初创公司Reson8(全称Resonate Labs B.V.)于2026年11月18日发布了其最新的转录模型Rumble-2-Flash,并以开放权重形式供免费下载。该模型拥有5亿参数,支持超过40种语言,主要面向需要处理非英语音频的开发者和研究人员。

据SiliconANGLE报道,Reson8指出主流语音模型大多以英语为主进行训练,导致在其他语言尤其是专业术语上的准确率下降。Rumble-2-Flash旨在解决这一问题,特别是在荷兰语、瑞典语和德语等被忽视的语言场景中。在Hugging Face的Open ASR Leaderboard上,该公司自测显示该模型在包括德语、法语和荷兰语在内的七种语言中平均词错误率为7.09%,英语约为5%。在涵盖马耳他语和巴斯克语等10种低资源语言的测试中,其平均词错误率为17.6%,而OpenAI的Whisper Large V3在同一测试中的错误率为39.82%。

该模型采用Apache 2.0许可证开源,也可通过Reson8的API访问,起价为每小时音频0.01欧元。此次发布是继11月3日该模型在API中首次亮相之后的进一步开放举措。Reson8表示,其服务托管在荷兰境内的GPU上,不保留任何音频或转录文本,并声称符合欧盟《通用数据保护条例》(GDPR)和《人工智能法案》的要求。

信息源:SiliconANGLE

研究

Datadog安全工程团队:AI能找到漏洞,但判断可利用性需要把人类安全知识编码为不变量

实质变化
2026-11-18 08:00

Bianca Lankford、Matt Meen和Adrien Peronnet是Datadog安全工程团队的成员,他们在一篇工程博客中描述了一个在AI漏洞发现中反复碰到的瓶颈:今天的模型确实能通过代码审查找到潜在漏洞,但真正难的是判断这些问题在考虑了服务的业务逻辑和已有安全控制之后是否真的可被利用。在Datadog的规模下,一个生产服务可能依赖数十个团队维护的框架、基础设施和其他服务,一个代理在审查某个仓库时看不到那些团队提供的认证检查或网络限制,也不知道该服务必须遵守哪些安全要求。

他们的解法叫'威胁包'(threat pack),是一份紧凑的、经过人工审核的文档,把领域专家的安全知识转化为代理在猎杀过程中可以使用的上下文。每个威胁包由两个文件组成:一个Markdown文件包含系统概述、安全不变量、审查优先级和已知补偿控制四个部分;一个YAML元数据文件标识包的范围、维护者和代码位置。他们把包控制在大约300行以内,目的是给代理足够的上下文,同时只占用其上下文窗口的一小部分。

所谓'不变量',是系统必须始终维持的安全属性。文章举了一个具体例子:一个隔离代码执行服务的安全要求是'客户机内部的代码绝不能触及Kubernetes节点、主机文件系统、容器运行时或云元数据服务'。一个审查者可以手动搜索涉及文件系统或网络套接字的调用,但判断这些调用是否违反规则还需要更多细节——比如客户机内部的root权限是预期行为、Kata microVM提供了客户机与主机之间的信任边界、Kubernetes和Cilium策略约束了工作负载、出口代理是唯一批准的外部网络路径。这些保护机制有些能从源码中部分看出,但无法完整说明服务被允许或被禁止的访问范围。把这条要求记录为不变量,再配上信任假设和补偿控制,代理就有了明确目标:寻找一条可达路径来打破该要求,同时考虑可能阻止攻击者利用它的保护措施。

猎杀产出的候选发现必须经过一个过滤阶段。第二个代理充当'裁判',对照威胁包审查每个候选报告:它必须点名一条已声明的不变量,识别攻击者可达的入口点,并解释该路径如何可能违反不变量。满足这些条件的成为'合格发现',进入后续的概念验证尝试;不满足的成为'不合格发现',在复现之前就停止,不进入自动分诊或修复流程。不合格报告被保留下来,供审查者识别威胁包中缺失的上下文或代理遗漏的证据,反过来改进包本身。

为了在更换模型、提示词或代理框架时防止能力回退,他们建立了一套基准测试方法。基准集包含43个已验证漏洞,覆盖九个威胁包对应的系统,来源包括开源仓库、面向客户的产品和内部系统。每次基准猎杀开始前,威胁包版本、仓库快照、运行配置和参考发现全部冻结。猎杀代理只拿到代码和威胁包,看不到参考发现。每个配置独立重复运行多次,之后由一个独立的'语义裁判'将结果与隐藏参考发现进行比对——它比较的是攻击者能力、被违反的边界、根本原因和可利用路径,而非字面措辞。

衡量一致性用两个指标:union detection(在所有有效重复中至少发现一次)和stable detection(在大多数独立运行中都能发现,当前阈值是10次中至少7次)。这个阈值是工作值,他们计划随着数据积累继续调整。如果旧配置在10次中找到8次而新配置只找到2次,他们会调查该变化是否降低了检测概率,并将这一降幅与同一配置各次运行之间的正常波动进行比较,以判断变化是否真的是原因。

这套方法已经产出了具体成果。使用威胁包的猎杀在开源组件中发现了客户机到主机的逃逸漏洞:一个通过Kata Containers的Rust运行时中的virtio-fs实现,另一个由Dragonball的virtio-blk实现中缺失的长度校验导致。文章还描述了一个从单个发现扩展为全面排查的案例:一次SAST扫描发现某个AI辅助功能通过允许外部图片的Markdown渲染器显示模型输出,违反了'Agents Rule of Two'原则——提示注入可以把敏感信息放进图片URL,浏览器请求该图片时就会把信息发送给攻击者。团队替换了渲染器,然后把这条渲染要求作为'通用安全不变量'写入应用用户界面的威胁包中。有了这条要求,代理得以跨整个UI代码库检查不同实现的功能,利用包中的补偿控制排除被保护机制阻断的攻击路径。在记录该不变量后的几天内,猎杀又产生了多个被确认为漏洞的类似发现。

值得注意的边界是:所有效果描述——噪声减少、报告质量提升、基准集规模和检测阈值——均为Datadog团队自报,没有独立复现或第三方验证。方法本身依赖持续的人工维护:数百个威胁包需要服务所有者参与构建和审核,不变量需要随系统变化更新。对于没有同等规模安全工程团队的组织,这套方法的初始投入和长期维护成本是需要评估的实际约束。

不过,其核心设计思路——把人类安全知识编码为代理必须满足的形式化约束,再用约束违反作为过滤判据——不依赖特定规模。一个团队可以从一个自己理解透彻的服务边界开始,与服务所有者一起记录其安全要求,然后针对已知漏洞重复猎杀,把参考发现排除在代理输入之外,观察它找到了什么、遗漏了什么、以及每次运行的一致性如何。

信息源:Datadog

研究

Datadog工程师:微调前基准测试发现,基础模型的问题不是写不好摘要而是写不完

实质变化
2026-11-18 08:00

Datadog的Patterns功能负责将应用的生产LLM流量聚类为相似主题。在聚类之前,它用一个大模型把每条采样交互压缩成一句摘要。团队发现,这一步骤占Patterns运行p99成本的约80%、p90延迟的约50%。他们决定微调一个更小的模型来替代,但关键的第一步不是直接训练,而是先搞清楚基础模型到底差在哪里。

团队使用pup finetune的benchmark命令,在Baseten上重放留出的测试用例,让一个LLM裁判判断每个回答是否可以替代原始记录。结果出乎意料:基础模型Qwen 3.5 9B的问题不是摘要质量,而是token预算。它经常在写出摘要之前就把全部预算花在了推理上。83次失败中有78次是耗尽token或无法解析,而非内容错误。当它确实完成时,摘要质量是好的,只是太慢。这个诊断直接指向了微调能解决的问题:模型已经会做这个任务,但需要改变它回答的方式——直接输出短摘要,而不是先做冗长推理。

确定了问题性质后,团队用pup finetune dataset pull从Agent Observability中拉取Patterns摘要器的生产LLM span。每条span包含输入交互、聚类指令和前沿模型写出的摘要,被转化为一条训练对话:输入消息保持不变,摘要作为目标答案。为避免模型只学会某一条指令,他们混合了多种聚类指令构建数据集。pup finetune按trace划分训练、验证和测试集,同一条trace的所有行进入同一分片,防止数据泄漏。

训练阶段使用Baseten Loops SDK训练LoRA适配器,每个epoch后在验证集上测量损失,验证损失不再改善时提前停止并保留最佳checkpoint。评估阶段用pup finetune evaluate同时重放基础模型和微调模型的结果,由LLM裁判打分。在150个留出测试用例上,微调模型的裁判通过率从基础模型的44.7%升至93.3%,平均生成时间从44.7秒降至0.89秒。

需要指出的是,这是Datadog在单一摘要任务上的自报结果。基础模型的失败模式——推理耗尽token——与Qwen 3.5 9B在此特定任务上的行为绑定,不一定推广到其他模型或任务。pup finetune工具链与Datadog Agent Observability深度集成,将生产span转化为训练数据的具体流程在其他监控体系下需要适配。不过,先诊断再训练、用已有生产trace构建数据集、按trace划分防止泄漏,这些步骤本身是可迁移的工程实践。

信息源:Datadog

研究

AWS宣布Lambda托管实例支持GPU加速函数,提供无服务器AI推理新选项

实质变化
2026-11-19 03:39

亚马逊云科技(AWS)于2026年11月18日宣布,其Lambda托管实例(LMI)现已正式支持EC2 G系列GPU实例用于事件函数。这一更新使得开发者能够以无服务器的简洁性运行GPU加速的工作负载,包括机器学习推理、媒体处理、渲染和科学计算。

此前,在自建GPU基础设施上运行此类任务需要选择实例、安装和协调GPU驱动程序及CUDA库、规划容量并编写扩展逻辑。新的功能通过容器镜像部署函数,由Lambda自动处理配置、扩展和事件集成,消除了对集群或设备插件的操作需求。该能力针对推理而非训练进行了优化,适用于自定义模型而非大型基础模型。

在成本方面,用户需支付底层的EC2实例费用(可适用储蓄计划和预留实例),加上GPU实例9.75%的管理费,以及标准的每百万次请求0.20美元的Lambda请求费。这种模式旨在提高GPU利用率,通过将多个函数整合到实例上并在并发请求间保持GPU忙碌来降低成本。

GPU加速函数完全融入Lambda编程模型,支持与Lambda持久函数和MicroVMs组合使用,并可从超过200个AWS事件源触发。目前支持的实例类型包括G4dn、G5、G6、G6f、Gr6、Gr6f和G6e,未来将扩展至更多实例系列。

信息源:Amazon Web Services

研究

AEP Global 商业总监 Gavin Wight:AI 数据中心的高压调试必须作为独立学科从第一天介入

实质变化
2026-11-19 03:33

AI 数据中心的功率需求正在把项目推向一个许多开发者此前没有充分准备的领域。随着计算容量增长、机架密度攀升到前所未有的水平,设施对电力的需求已达到数十乃至数百兆瓦的规模。AEP Global 商业总监 Gavin Wight 指出,当 AI 数据中心发展趋向吉瓦级需求时,部分市场的当地配电网在不进行大规模升级的情况下已无法支撑新项目,审批流程因此延长,一些项目面临多年延迟。直接接入 66kV、110kV 或 150kV 输电网络正成为越来越有吸引力的替代方案,但这同时意味着变电站、电力变压器、高压电缆、开关设备、保护系统和电网接口全部进入项目的关键电力架构——在几年前,这些元素中的许多还完全处于项目边界之外。

Wight 的核心论点是:高压调试不是低压验证的延伸,而是一门独立的工程学科。在更高电压等级下,电气危险包括电弧闪络、闪络和致命电击,即使人员并未直接接触带电导体也可能致命。保护设置错误或开关程序失误的后果可能是设备损坏、电网扰动和严重的项目延误。高压调试有其自身的标准、测试方法和安全协议——变压器需要电气测试以确认绝缘完整性和绕组状态,高压电缆和终端需要验证绝缘性能和安装完整性,开关设备和断路器需要机械与电气双重验证,保护继电器必须对照经批准的保护整定研究和定值表进行二次注入测试。

他进一步论证,单项设备的测试完成并不自动证明整个高压安装已准备好通电。在通电之前,调试团队必须确认所有检查、测试、缺陷整改和安全核查已经完成并获得适当授权,包括确认保护定值、核实开关时间表、检查接地安排,以及确保所需的许可证、程序和人员授权到位。

Wight 认为,大型数据中心开发中最大的风险之一是把高压调试当作后期活动,只在变电站和配套设施接近完工时才引入。到那个阶段,影响设计决策、解决接口问题和锁定专业资源的窗口可能已经关闭。他从第一天起引入高压调试团队的做法中列出了具体收益:参与设计审查、建立测试要求、识别通道和测试约束、更有效地协调供应链各方职责。

需要指出的是,Wight 所在公司正是提供高压电气服务、调试和安全工作体系的专业供应商,因此将高压调试定位为必须尽早介入的独立学科,客观上也为其业务模式提供了论证。不过,他所描述的测试规程和安全要求反映的是电力工程领域的通行实践,其关于项目时序和范围分离的策略性建议则属于专业判断。

Wight 的结论是:随着数据中心功率需求持续增长,高压连接很可能成为数字基础设施中越来越常见的特征。成功管理这一转变需要在输电接口到设施配电的整个电力链路上建立严格的、专门的调试验证层,在通电前后都进行确认。将高压调试视为独立学科而非低压验证的延伸,是安全、可靠、按期满足 AI 建设需求的重要一步。

信息源:DataCenterKnowledge

研究

Sashiko:AI代码审查为何必须把找问题和验证问题分开

实质变化
2026-11-19

大型开源项目的开发速度瓶颈从来不是代码生成,而是代码审查。Linux内核每年落地超过85,000个变更,维护者每天要手工阅读数百个补丁,检查内存泄漏、死锁、竞态条件和安全漏洞。当AI编码代理让补丁产出速度成倍增长时,如果没有建立信任的机制,更多生成的代码只会堆在同样一小群人类维护者面前。

Google AI与基础设施团队的Roman Gushchin和Eric Brewer在2026年11月发布的博文中,详细解释了Sashiko——一个由Gemini驱动的开源代理式代码审查系统——的架构设计和生产数据。这个系统今年早些时候已捐赠给Linux基金会,命名取自日语刺し子,一种加固磨损布料的缝补技法。

Sashiko的架构设计直接回应了LLM作为审查者的三个特定失败模式。第一,LLM倾向于省token:它们被训练为在有限预算内达成目标,因此经常草率地排除疑虑而不做充分调查,或者不做尽职调查就标记误报。第二,LLM容易被偏置:当前一代模型在处理单一相对简单的任务时表现远好于处理多个复杂任务,一个LLM发现代码中某个明显问题后往往拒绝继续深挖其他类型的问题。第三,LLM没有持久记忆——这在代码审查中反而是优势,因为同一个补丁可以像新补丁一样被反复审查。

应对这些失败模式的核心设计决策是:将发现候选缺陷与验证缺陷严格分离,并要求每个审查阶段记录它排除了什么。具体流程分五步:收集上下文并规划、并行专家会话(输出疑虑列表和已排除的候选项)、分诊、逐问题深度核查、生成审查报告。

并行专家会话最多七路同时运行,每路只聚焦一类问题:提交意图、实现匹配、控制流、资源生命周期、锁、安全、硬件。给每路单一焦点是为了防止一种类型的bug挤掉另一种。每路平均调用约100次git工具搜索和阅读仓库,输出两个列表:它认为真实存在的疑虑,以及它调查后排除的候选项及其代码依据。

分诊阶段由一个主导验证者同时审计这两个列表。代码已经直接证明的明确缺陷直接通过;本地检查已证明的排除项直接丢弃。其余所有情况都需要进一步调查——关键在于,这不仅包括专家之间有分歧的争议缺陷,还包括不稳定的自我排除:即某路专家确实发现了真实缺陷,但仅凭假设某个未见的调用者或锁会阻止它,就在没有证据的情况下把它排除了。

逐问题深度核查阶段给每个困难案例分配独立的验证代理并行运行,而非在一个共享提示中检查所有困难案例。每个代理只回答一个具体问题,遵守对称规则:无论是缺陷声称还是排除,没有跨所有调用点的具体代码证据就不被接受。如果某路专家基于错误假设说服自己排除了一个真实缺陷,这一步会把它抓回来提升为真实发现。

七个月的生产数据支持了这套架构的有效性。Sashiko每天在超过100个内核邮件列表上完成约1200次审查,超过70个列表的维护者已选择加入。它被引用在2,000多个主线内核提交和2026年500多个官方Linux内核CVE中。

最直接的量化证据是修复率变化:在Sashiko部署前的18个内核版本(Linux 6.2到6.19,覆盖254,000个提交)中,平均3.4%的合并提交在60天内需要后续修复。Sashiko上线后,Linux 7.1降至2.8%,Linux 7.2降至2.2%——相对下降约35%。更精细的信号是:在21,500个被追踪的主线提交中,通过Sashiko清洁审查的补丁60天内需要修复的比例仅为0.9%,不到历史基线的三分之一;而带着Sashiko严重警告仍被合并的补丁需要修复的比例为7.6%,风险高出8倍。

作者承认,仅凭修复率下降不能把功劳全部归于Sashiko,许多其他因素可能影响版本间数字。但清洁审查与严重警告之间8倍的修复率差距,说明Sashiko的信号确实有区分度。

在方法论层面,作者强调基准驱动开发胜过直觉:早期他们构建了包含近1,000个真实Linux内核缺陷的基准,每个都是通过了人类专家审查、合并进主线、后来不得不修复的真实错误。用这个基准评估每一次重大改动后,Sashiko配合Gemini 4 Carbon模型在高思考级别下能捕获人类审查者遗漏的75.8%的缺陷。这是第一方基准,由项目团队自己构建和运行。

另一个值得注意的经验是:编码代理并不擅长审查自己的代码。模型被训练为在有限token预算内产出可工作的方案,但对于真实的大型代码库,创建一个功能正确的方案往往只是5-10%的工作量。真正困难的是产出始终正确、与周围代码良好集成、不引入微妙回归的方案。这与人类开发者类似——审查者经常发现初始作者遗漏的问题,即使他们并不更有经验。

Sashiko的架构模式——将发现与验证分离、单焦点并行、对称证据规则——不依赖于C语言或内核特定规则。作者认为这套Linux内核手册(开放的验证流水线、社区拥有的领域指南、从历史已知问题和修复中挖掘的基准)可以应用到GCC、LLVM或Git等其他基础开源项目。

Linus Torvalds在Sashiko上线几周后的邮件列表讨论中写道:Sashiko往往相当出色,即使它不必要地标记了某个问题且实际没有bug,这个问题通常也有其原因;他们也见过真正出色的报告,深入且微妙,AI完全正确。

信息源:Google Cloud Blog

研究
下一页 →
登录 / 注册
阅读研究雷达投资体系