阅读研究雷达投资体系
登录 / 注册
登录 / 注册
阅读研究雷达投资体系
历史阅读归档 →

阅读

2026-10-2042 条

刷新

美国麻省总医院团队研发AI模型:单张面部照片可预测癌症患者死亡风险

实质变化
2026-10-20 06:30

美国麻省总医院布莱根妇女医院(Mass General Brigham)的研究人员近日在《柳叶刀数字健康》(The Lancet Digital Health)上发表了一项新研究,展示了一种名为FAHR-Face的人工智能模型。该模型能够通过分析单张面部照片,预测癌症患者的死亡风险。这项研究由放射肿瘤学家Ray Mak及其同事主导,旨在解决传统医疗评估中主观性过强的问题。

Mak指出,医生在医学院接受训练时,被教导通过观察患者来形成对其健康状况的印象,这种“临床直觉”直接影响手术、化疗或放疗等治疗方案的制定。然而,这种评估本质上是主观的。FAHR-Face模型试图将这种主观印象转化为客观数据。研究团队首先让算法在无特定任务的情况下“学习”了4000万张面部图像,随后微调模型以执行两项任务:估算人的生物年龄和预测癌症患者的生存几率。

测试结果显示,该模型具有令人惊讶的准确性。在一个包含3820名癌症患者的测试组中,风险评分最高的122人里有64人在拍照后90天内去世,占比超过一半。在另一个包含超过38000名患者的更大规模测试组中,那些看起来比实际年龄更老的患者,其死亡风险也更高。研究人员称,这是首个报告能直接从简单面部照片预测癌症患者生存情况的AI算法。

为了理解AI是如何做出判断的,团队使用了“注意力映射”技术来追踪算法在分析时的关注点。对于年龄预测,AI主要关注鼻唇沟(鼻子和嘴巴之间的褶皱)和前额部分;而对于死亡风险预测,AI则倾向于聚焦鼻梁和眼睛下方区域。虽然这些特定区域与死亡风险相关的原因尚不明确,但模型似乎捕捉到了吸烟、酗酒等已知健康风险带来的面部特征变化。例如,吸烟者和重度饮酒者往往看起来比实际年龄更老。此外,照片中的表情、化妆或光线对年龄预测影响不大,但整形手术是一个例外:做过隆鼻手术的人在术后照片中会被AI判定为略老一些。

尽管前景广阔,但FAHR-Face目前尚未准备好进入临床使用。一个主要的局限在于,该癌症生存模型是在以白人为主的波士顿地区癌症患者群体上训练的。研究团队正在努力扩大训练集,以涵盖更多样化的人脸。麻省总医院已为该面部健康算法申请了专利。

这项技术也引发了伦理争议。纽约大学生物伦理学中心主任Matthew Liao教授评论说,这类工具可能有助于识别需要额外护理的患者,但也存在误判风险,可能导致真正需要护理的人被忽视。Liao还担心保险公司可能利用此类技术来决定是否承保,或者雇主用它来筛选“更健康”的求职者。他认为,在进一步开发该技术之前,社会必须深思其潜在的负面影响。

信息源:scientificamerican.com

研究

微软传退出英国Nscale数据中心协议,电网供电延迟至2030年代成AI扩张瓶颈

实质变化
2026-10-20 05:30

据路透社和《金融时报》报道,微软(Microsoft)已传出终止与英国云端基础设施业者Nscale位于英格兰艾塞克斯郡Loughton的数据中心协议。该案场原计划配置约2.3万颗NVIDIA GB300晶片以支援Azure云服务,但电网业者告知Nscale,预计要到2030年代才能提供所需电力。微软拒绝评论,未说明终止的确切原因。

《金融时报》引述知情人士称,微软原本拟承租该案场全部50兆瓦(MW)容量,如今Nscale必须另觅租户。Nscale向路透社表示,仍承诺推进Loughton计画,正在寻找替代电源及其他英国扩建地点,并强调与微软的其他合约不受影响。然而,该公司尚未公布替代供电方案或新的上线日期。

这一事件揭示了AI基础设施扩张的关键瓶颈已从“获取晶片”转向“物理电力接入”。尽管大型科技公司拥有资金和晶片供应链,但各地电网的升级周期、互连排队时间以及监管审批往往长达数年甚至十年以上。当电力供应无法在预期时间内到位时,即使已宣布的算力规模也必须面对延期或取消的风险。对于投资者和行业观察者而言,评估AI数据中心项目的可行性时,电网互连状态已成为比晶片订单更紧迫的限制因素。

信息源:techorange.com

研究

美国国务院制裁上海智算科技及奇绩创坛等五家实体,涉前谷歌工程师AI技术窃密案

实质变化
2026-10-20 06:36

美国国务院于2026年10月19日宣布,依据《保护美国知识产权法》(PAIPA)对五家中国实体实施制裁,指控其涉嫌窃取美国公司商业秘密。制裁名单包括前谷歌软件工程师丁林伟(Ding Linwei)创立的上海智算科技有限公司(Shanghai Zhisuan Technology)、知名初创孵化器及风险投资公司奇绩创坛(MiraclePlus),以及奇绩创坛管理的两个基金和一个企业管理中心。

此次制裁源于丁林伟的刑事定罪。丁林伟曾于2019年至2023年在谷歌担任软件工程师,负责超级计算数据中心软件开发。据起诉书披露,他在任职期间秘密上传超过1,000个谷歌文件至个人云账户,内容涉及谷歌AI超级计算基础设施的核心代码,包括张量处理单元(TPU)、图形处理单元(GPU)系统及用于训练大规模AI模型的网络组件技术细节。这些技术对于在出口管制背景下高效协调数千芯片进行大模型训练至关重要。

2024年3月,联邦调查局逮捕丁林伟。今年1月,旧金山联邦陪审团裁定他犯有七项经济间谍罪和七项窃取商业秘密罪。8月,联邦地区法官Vince Chhabria推翻了所有经济间谍罪的定罪,理由是检方未能证明丁林伟明知其行为会惠及中国政府,但维持了窃取商业秘密罪的定罪。9月1日,丁林伟被判入狱12个月减一天,并责令支付约19.8万美元赔偿金。

美国国务院表示,丁林伟利用奇绩创坛提供的平台展示其公司“智算”,吹嘘其与谷歌技术的联系及复制该技术以适应中国国情的能力。上海智算科技声称拥有谷歌TPU Superpod经验,该架构可将多达9,600个芯片集群化为单个逻辑网络,并明确表示能复制谷歌的超智能(SI)基础设施技术。

根据制裁措施,这五家实体将面临资产冻结、禁止与美国个人或实体进行交易,以及金融服务和外汇许可证限制。这一行动标志着美国执法机构不仅追究个人刑事责任,还开始通过金融制裁切断支持此类技术转移的资本网络,对AI领域的跨境创业和投资构成新的合规风险。

信息源:scmp.com

研究

AI基础设施研究机构SemiAnalysis称2027年数据中心新增容量将达50GW,已签租约超万亿美元

实质变化
2026-10-19 13:39

Altimeter创始人Brad Gerstner在All-In播客上引用SemiAnalysis的数据后表示,该机构预测的2027年新增43GW过于激进,他凭直觉认为实际只会建成约25GW,接近其预测的一半。SemiAnalysis对此的回应是:不要凭直觉行事。

SemiAnalysis的核心论据不是单一公告或口头承诺,而是两项可追踪的先行指标:季度自建开工(以兆瓦计)和数据中心租约合同金额。其逻辑链条是:SemiAnalysis称,在缺乏客户承诺时,开发商通常只投入项目资本的5%至10%,必须获得一份15至20年期、总合同价值每GW约300至500亿美元的不可取消租约,才能启动债务融资并推进建设。因此,已签租约金额领先于债务募集,债务募集又领先于实际施工——追踪租约就是追踪建设管线的最前端。

2023年下半年至2025年上半年,数据中心季度租约保持相对平稳,主要原因是微软暂停了大规模租赁——SemiAnalysis称其在2024年12月率先指出这一点。转折发生在2025年8月至10月:Oracle在三个站点签约约4.5GW数据中心IT容量,此后Meta、AWS、微软、Google、Nvidia、AMD、Anthropic和OpenAI均进入GW级租约市场,Neocloud长尾则签署百兆瓦级合同。SemiAnalysis称,仅2026年至今已识别出超过1万亿美元已签并关闭的租约价值。

这超过1万亿美元租约意味着什么?按每GW总合同价值300至500亿美元估算,它对应的IT容量约为20至33GW,加上已开工但尚未签约的项目,SemiAnalysis认为足以支撑2027年新增50GW——这相当于截至2024年全球数据中心累计市场在一年内被重建一遍。其季度自建开工数据也显示,美国超大规模云厂商从未启动过如此多的建设,开工量呈抛物线增长,主要由两家超大规模厂商驱动。

但这一论证有明确边界。首先,SemiAnalysis的Datacenter Industry Model是付费订阅产品,其公开文章展示的是模型结论而非全部原始数据,读者无法独立核验其逐楼追踪的完整性。其次,文章最关键的章节——数据中心是否会供过于求——被锁在付费墙内,公开部分只提出该问题而未给出答案。第三,租约是合同义务而非已交付容量:从签约到通电交付仍需经历施工、设备到货和电力接入,任何环节延误都会将2027年的50GW推迟。SemiAnalysis自己也承认,其模型持续标记开发商过于激进的时间表,例如今年4月Oracle新墨西哥州因不可抗力延迟的站点。

对AI产业投资而言,这篇分析的实际用途是提供一个可操作的判断框架:当市场出现数据中心建设放缓或过热的叙事时,检查不可取消租约的签约节奏和金额变化,比追踪单次公告或高管言论更能反映真实管线状态。近万亿美元租约是否最终转化为50GW交付,取决于执行;但租约本身作为先行指标的传导逻辑,是评估AI算力供给前景时值得纳入的结构性变量。

信息源:newsletter.semianalysis.com

研究

投资人凯文·奥莱里称北美约65%数据中心项目可能建不完,已获电力与许可的站点有望因稀缺升值

实质变化
2026-10-20 01:25

当前AI基础设施股票面临一个看似清晰的空头逻辑:CoreWeave、Applied Digital和IREN等公司正投入巨额资本开支建设数据中心园区,其中大部分通过借债,投资者担心这些产能最终无法收回成本。数日内,CoreWeave股价下跌约25%,Applied Digital和IREN从夏季高点回落约50%,市场情绪印证了这一担忧。

但加拿大投资人、《创智赢家》节目嘉宾凯文·奥莱里认为市场计错了变量。他估计,北美过去两年宣布的数据中心项目中,约65%可能永远无法建成——不是因为需求不足,而是因为缺水、缺光纤、缺电力,或者遭遇政治叫停。他预计其中60%至65%将在24个月内被关闭。如果这个判断成立,那么真正稀缺的不是算力,而是已经克服电力和许可障碍的站点。

奥莱里将机会拆分为两个方向:电力和算力存储。电力方面,他认为经济整体需要远超AI需求的电网容量;算力方面,他估计当前计算需求约为可用容量的3倍,且未来三年看不到放缓迹象。他指出,亚马逊、Alphabet和微软通过其数据中心运行的业务中,有很大一部分与AI无关。

具体机制是这样的:在一个租户搬入第一个机架之前,开发商需要土地、美国环境保护署的空气许可、水资源权利、暗光纤和电力。仅规划阶段每吉瓦就需要2000万至3000万美元。租户的需求量级也在跳升——过去要求250至500兆瓦,现在至少要求1.4吉瓦,从零到运营大约需要160亿美元,股权和债务各占一半。

电力是最难的一环。前加密货币矿工因为已有电网接入而转向AI,但美国多数州现在要求新项目自备电力,通常通过天然气涡轮机实现。时间构成隐性成本:内部收益率取决于速度,一个面临三年审批等待的站点无法产生任何人愿意融资的回报。奥莱里称,租户希望产能在2027年第四季度上线,这种需求是'无法满足的'。

一旦电力合同、水资源许可和空气审批全部签署,项目价值可以急剧跳升——这是奥莱里论点的核心。如果约三分之二的已宣布项目失败,已获许可和电力的产能将成为珍贵资产,已经上线的运营商面对大约11家主要租户的短名单将获得议价优势。

奥莱里在公开市场持有Bitzero Holdings(NASDAQ: AIBZ),该公司在挪威和芬兰拥有土地、电力和许可,为他提供流动性。他在美国犹他州Box Elder县和加拿大阿尔伯塔省开发私人项目。他称该主题占其投资组合超过20%,是他最大的单一主题。长期来看,他将数据中心视为具有公用事业式现金流的商业地产,在温控存储中目标回报率为17%至22%,偏好杠杆不超过30%。

政治是奥莱里认为最尖锐的风险。他引用民调显示,超过70%的人反对在本州建设数据中心,但当站点位于三英里外并提供15万美元年薪的工作时,回答会发生变化。美国中期选举临近,反对数据中心可以赢得选票。

这个论点不需要每个建设者都成功,也不需要AI热情在每个季度都保持。它需要两个条件:计算需求持续强劲,许可审批持续困难。如果突然出现大量新获许可的产能,或者超大规模云厂商削减芯片支出,这个论点就会被削弱。

需要指出的是,65%的失败率估计、3倍的需求缺口以及11家主要租户的数字均来自奥莱里本人的判断,文章未提供独立验证来源。奥莱里同时持有Bitzero并开发私人数据中心项目,该主题占其投资组合超过20%,存在直接利益关联。文章发布方MarketBeat同时销售149美元/年的订阅服务和股票推荐产品。这些利益关系不自动否定论点本身,但读者在评估其具体数字时应保持这一背景。

信息源:marketbeat.com

研究

英伟达与戴尔参投,AI代码优化公司doubleAI完成2亿美元A轮融资

实质变化
2026-10-20 06:49

以色列特拉维夫的AI模型开发商doubleAI(正式名称为AA-I Technologies Ltd.)于2026年10月19日宣布完成2亿美元的A轮融资。本轮融资由Lightspeed和Bessemer Venture Partners共同领投,英伟达(Nvidia Corp.)和戴尔科技(Dell Technologies Inc.)等机构参与投资。据CTech报道,此次投资使doubleAI的估值超过10亿美元。

doubleAI开发了一款名为Maxwell的AI模型,旨在自动优化软件代码以提高效率。与传统修改源代码不同,Maxwell直接对程序的二进制文件进行优化,从而降低硬件资源消耗并支持在生产环境中实时调整应用。该公司称,Maxwell曾重写英伟达开源库cuGraph的部分算法,使其在55%的案例中运行速度提升两倍以上;此外,该模型还优化了数据科学工具包pandas的性能,并在国际象棋残局研究中打破了保持近50年的记录。

《华尔街日报》报道称,doubleAI计划将本轮融资的一半用于购买1,000块英伟达B300 Blackwell图形处理器。此举旨在增强其算力储备,以应对来自OpenAI和Anthropic等竞争对手的挑战,这些公司的最新AI模型同样具备自动化研究任务的能力。

信息源:siliconangle.com

研究

据报道英伟达将NVHBM底座芯片统一至台积电3纳米,三星接受部分代工

实质变化
2026-10-19 08:25

英伟达正在重新定义AI半导体供应链中谁决定用什么工艺。据报道,英伟达要求三星电子、SK海力士和美光三家供应商在提供新一代定制内存NVHBM时,将HBM堆栈下方负责辅助运算的底座芯片统一交由台积电3纳米工艺制造。这一安排的核心逻辑是标准化:当同一颗GPU需要兼容多家公司的HBM产品时,逐一验证不同底座芯片的接口和功耗特性成本极高,而将底座芯片锁定在同一工艺节点可以大幅减少适配工作量。

三星此前长期将内存到底座芯片的内部一体化作为核心竞争力。据报道,三星在NVHBM产品上接受了台积电代工底座芯片的安排,这对其一贯策略构成显著转变。

不过这并不意味着三星全面改变HBM策略。三星自有HBM4、HBM4E以及面向其他客户的产品仍计划使用三星代工制造底座芯片。

台积电2026年第三季度业绩为这一格局提供了背景。当季营收1.4942万亿新台币,净利润7631亿新台币,同比分别增长约51%和69%,净利润连续第六个季度刷新纪录。

推动业绩的核心是先进制程。去年年底开始量产的2纳米制程已占晶圆营收的8%,3纳米与5纳米合计的先进制程占比达69%。

台积电计划2027年将2纳米系列产能扩大至当前两倍以上。先进芯片从设计阶段即绑定特定制程,一旦选定代工伙伴,后续切换成本极高,因此提前锁定产能意味着将下一代AI芯片留在自身生态内。

代工市场份额方面,据TrendForce数据,2026年第二季度台积电市占率72.5%,三星仅5.9%。三星正通过美国得州泰勒工厂投产和2纳米新订单寻找突破口,去年已拿下特斯拉约165亿美元订单。但AI芯片需求本身快速增长,台积电即便大幅扩产也难以满足所有客户,这为三星等第二供应商留下空间。

更深层的变化在于产业链权力结构。AI加速器从单一芯片演变为庞大系统后,英伟达这类设计企业的影响力已延伸至内存制造方式和代工选择。过去三星和SK海力士各自优化自家HBM即可,如今GPU、内存、逻辑芯片和封装需要在同一设计框架下统筹。

在这一过程中,竞争与合作并存:三星与台积电在代工市场激烈竞争,却在NVHBM供应链中进入同一体系。台积电创纪录业绩的部分原因也在于此——先进制程越是成为AI半导体的通用底层,竞争对手的产品中也会嵌入台积电的制造技术。

信息源:thecore.media

研究

亚马逊发布TorchNeuron工具,试图打破英伟达在AI芯片领域的软件垄断

实质变化
2026-10-20 04:09

美国亚马逊云科技(AWS)于2026年10月19日发布了一款名为TorchNeuron的开发工具,旨在让AI初创公司能够轻松将其应用程序迁移至亚马逊自研的AI芯片Trainium上。这一举措被视为对英伟达(Nvidia)长期依赖的软件优势——即CUDA生态系统——的直接挑战。CUDA是使应用程序能够在英伟达GPU及其他硬件上运行的关键软件基础设施,其深度集成使得英伟达成为AI应用开发的默认硬件选择。

TorchNeuron与开源框架PyTorch兼容。据亚马逊称,约85%的AI应用使用PyTorch编写。该工具允许开发者仅通过修改一行配置代码,即可将基于PyTorch的应用程序运行在Trainium芯片上,无需重写代码。此前,英伟达投入多年确保其CUDA软件无缝支持PyTorch,从而建立了深厚的用户粘性。虽然AMD和苹果也提供了类似的移植选项,但亚马逊强调,迁移到Trainium不仅操作简便,还能让初创公司接入亚马逊完整的云服务生态。

AWS Annapurna Labs技术软件副总裁Colin Brace表示,在AWS上构建意味着开发者不必押注于单一用途的计算提供商并围绕它构建其他一切。他指出,从原型到生产所需的基础设施已经就绪,这有助于创始人快速扩展。此外,亚马逊声称由于Trainium同时处理训练和推理任务,并与云基础设施紧密集成,即使每token价格不是最低,也能通过整体工作负载的经济性为初创公司节省成本。例如,语音AI公司Deepgram报告称,迁移到Trainium后,其在保持生产级准确性的同时,每美元处理的音频量增加了70%。

除了提供便捷工具,亚马逊还计划向PyTorch主项目贡献代码,以移除将框架与特定芯片绑定的部分,目标是使PyTorch对整个开发者社区更加硬件无关。如果成功,这可能比单纯的芯片竞争对英伟达产生更深远的影响,因为它动摇了开发者因锁定效应而选择英伟达的根本原因。然而,实际效果取决于开发者是否愿意承担潜在的配置复杂性以及非英伟达硬件的真实性能表现。

信息源:techcrunch.com

研究

摩根士丹利上调亚马逊目标价至350美元,称AWS增长潜力被低估

实质变化
2026-10-19 21:05

摩根士丹利(Morgan Stanley)在2026年10月19日发布报告,将亚马逊(Amazon.com Inc, NASDAQ:AMZN)列为首选股票,并将其目标价从335美元上调至350美元。受此消息影响,亚马逊股价当日上涨超过5%。

该投行认为,亚马逊网络服务(AWS)的增长和利润空间尚未被市场充分理解。摩根士丹利分析师将AWS在2027年的预期增长率从之前的41%上调至47%,并预测其在2027年和2028年将分别保持47%和42%的同比增长。报告指出,英伟达(Nvidia)此前透露将有200万块GPU发往AWS,这一基础设施投入被视为AWS增长重新加速的关键催化剂。

在盈利能力方面,摩根士丹利预计AWS将在2027年和2028年成为一家“90法则”公司,即其运营利润率将达到42%至44%。基于这一假设,分析师推算亚马逊在2028年的每股收益(EPS)约为16.50美元。此外,报告还提到了Bedrock服务的可见性提升、代理式购物(agentic shopping)在假日季的测试以及仓储机器人技术的规模化应用作为潜在利好因素。

摩根士丹利强调,尽管Meta推出了Muse模型,但这并未改变其将亚马逊视为“关键代理式AI赋能者和赢家”的观点。亚马逊的电商基础设施和忠诚用户群被认为有助于其从代理式商业中变现。

信息源:proactiveinvestors.com

研究

AI智能体既非人也非机器人:麻省理工科技评论称为其改造互联网可能损害普通用户体验

实质变化
2026-10-20 02:22

互联网长期以来只有两类访客:人和机器人。网站允许机器人抓取页面内容,但通过规则限制其访问范围和行为方式;人类用户则偶尔需要完成验证码来证明身份。这套二元分类系统正在被个人AI智能体打破。

麻省理工科技评论记者James O'Donnell在2026年10月19日发表的文章中提出,OpenAI的Dots和Meta的Muse等应用释放的个人AI智能体构成了第三类访客:它们不是人类,以机器速度运行;但它们也不完全是传统意义上的机器人,因为它们代表具体个人执行合法且有用的任务,比如预订航班或谈判价格。Muse在上线首月下载量达500万次,2026年8月至9月间智能体网络流量翻了三倍。

这种新类别与现有系统的冲突已经具体化。TechCrunch报道用户发现从必胜客到Yelp等网站拒绝智能体访问,Yelp明确不允许AI预订餐厅。亚马逊封禁了Muse的智能体,并对AI初创公司Perplexity提起诉讼以阻止其智能体访问;虽然美国法院法官近期裁定Perplexity胜诉,亚马逊已提起上诉,主张AI智能体使其难以区分人类看到的广告与提供给机器人的广告,威胁其广告业务。

宾夕法尼亚大学沃顿商学院副教授Ethan Mollick预测,这种封禁很快将波及整个网络。他认为一旦公众普遍知道可以派遣智能体去要求退款或谈判价格,智能体将淹没客服部门,使其无法被真实人类使用。他在LinkedIn上写道:'当他们的智能体不被允许代表他们做这些事时,人类最终会非常恼火。'

然而经济动力正在推动另一方向。O'Donnell指出,绝大多数智能体网络流量指向电商网站,这意味着平台如果允许智能体代表真人购物就有钱可赚。电商巨头Shopify已经在为智能体开设绕过人类页面的专属结账通道。

文章的核心担忧是:当平台为数量最终将超过人类的智能体重新设计互联网时,留给普通人的体验会怎样退化。O'Donnell描绘了几种具体可能:网站作为人类目的地被忽视,想自己浏览比较产品的用户遇到更差的界面;验证系统不完善,人类可能不断被要求证明自己是人而非智能体(甚至需要扫描虹膜);同一件商品对不同人的智能体显示不同价格;用户永远无法判断智能体的推荐是否受到广告或平台佣金的影响。

这与Google、Anthropic和OpenAI所承诺的未来——AI智能体赋予消费者更大权力和议价能力——形成张力。O'Donnell承认这一承诺并非空想,智能体确实有能力帮助人们对抗虚假医疗账单或寻找更便宜的汽车保险。但他指出,智能体能否真正用于这些目的,取决于为智能体与网站交互设定的规则。这些规则仍在制定中,其中一些对所有各方都有利(比如防止智能体随意携带信用卡信息的规则),但更具争议的问题——企业能否阻止智能体访问其网站、能否阻止智能体为消费者谈判更优价格——将决定互联网最终成为为人类服务的智能体高速公路,还是反过来。

信息源:technologyreview.com

研究

澳大利亚AI学者Toby Walsh:AI的风险不在机器变聪明,而在人类制度变脆弱

实质变化
2026-10-19 14:46

Toby Walsh是澳大利亚新南威尔士大学(UNSW)教授、人工智能学者,长期推动自主致命武器国际禁令。他在2026年9月出版的《God AI: Boom or Doom?》中同时处理了超级智能、奇点、存在性风险和劳动市场问题,但全书的落点不是预测机器何时超越人类,而是追问:当能力增长时,我们的制度准备好了吗?

在《电子新闻》(ETNews)的书面访谈中,Walsh把这一立场压缩成一句话:'我最担心的不是机器变得多聪明,而是我们的制度有多脆弱。挑战是权力,不是智能。'他进一步解释,AI变得多强固然重要,但更紧迫的问题是——谁拥有这种能力,谁控制它,出了事谁负责。

他的论证机制来自一个具体类比:航空业。航空业没有把事故当作不可避免的代价而放任不管,而是建立了事故调查、设计改进和运营规则的循环,用安全建立了公众信任,信任反过来扩大了市场。Walsh认为AI应当走同一条路——安全不是增长的障碍,而是增长的前提条件。

但Walsh同时指出,现行制度设计存在一个具体的退化模式。他批评了'human-in-the-loop'(人在回路中)的流行做法:如果机器生成一份目标列表,人类只有几秒钟来批准,那这个人类审查就有沦为橡皮图章的风险。他给出的判断标准是:人类必须拥有实际审阅信息的时间和权限,并且在必要时能够拒绝AI的判断——仅仅'在流程中'不等于'在控制中'。

这一区分有现实背景。Walsh提到2018年他联合全球30个国家的AI和机器人研究者对韩国KAIST发起学术抵制,起因是KAIST与韩华系统公司合作设立国防AI研究中心。抵制在KAIST承诺不开发自主武器、保持人类控制后撤回。他还引用了美国Maven系统在伊朗冲突中融合情报数据推荐武器、首日打击约1000个目标的报道,认为这正是他多年警告的场景已经发生。

Walsh并不回避超级智能和存在性风险。他的书从'Boom or Doom'开始,经过超级智能、奇点、存在性风险、AI灭绝,最后以'充满爱的机器'(Machines of Loving Grace)收尾。他的立场是:这些场景值得研究,但把它们当作既定命运来争论是错置问题。真正可操作的变量是工程测试、独立验证、事故报告、实际问责和公共制度能力——这些是可以今天就开始建设的。

对于谁应该被约束、约束到什么程度,Walsh给出的方向是:在AI系统发布前进行独立安全测试,建立事故报告机制,对造成损害的产品追究实际责任;在国际层面,自主武器禁令和核武器决策中保持人类最终控制权是不可让渡的红线。他同时强调,国家内部监管无法覆盖的领域需要国际协议。

Walsh对制度脆弱性的诊断还包括一个容易被忽视的维度:监管者对被监管者的依赖。他主张政府内部必须培养独立专业能力,公共研究必须获得资金,否则监管者只能依赖企业提供的信息来判断风险。他批评澳大利亚政府曾取消常设独立AI咨询机构的计划,认为这恰恰是制度脆弱性的表现。

他的结论不是乐观也不是悲观,而是把选择权交还给人:'决定我们命运的不是机器,而是我们自己。'Boom和Doom不是预测,是选项,而选项的质量取决于制度的质量。

信息源:etnews.com

研究

强化学习训练绑定反馈环境,Agent高分不等于陌生任务能力

实质变化
2026-10-19 12:23

Meta 10月12日发布Muse Wonder和Muse Wonder Full,主打编程智能体、工具调用和长任务执行。Wonder Full在SWE-Marathon上拿到57.5分,DeepSWE 1.1达到79.0分。开发者社区BridgeMind随后安排了一项3D编程测试,要求模型制作一盏具有透明玻璃外壳、动态熔岩和光照效果的熔岩灯,结果模型只生成了一个红色圆柱体。Meta首席AI官Alexandr Wang回应称团队没有针对3D演示游戏进行显式训练,事后看来或许应该补充。

这场争议背后有一个更普遍的技术机制:当前大模型越来越依赖后训练强化学习来提升任务能力。在预训练阶段,模型通过大规模数据学习语言、代码、空间关系等通用知识;进入后训练后,强化学习让模型在特定任务环境中形成更稳定的执行策略。编程智能体很适合这类训练——给模型一个有Bug的代码仓库,要求它定位问题、修改文件并运行测试,整个过程可以通过编译结果、单元测试获得相对明确的反馈,强化学习系统据此判断哪些操作有效并持续强化。

但这类训练有一个关键前提:环境必须能够向模型提供有用的反馈信号。熔岩灯恰好打破了编程智能体熟悉的反馈方式。三维几何、透明材质、光照计算和动态形变——这些代码即使能正常执行,画面仍然可能完全错误。透明材质参数配置不当,玻璃可能变成不透明实体;熔岩形状缺少连续变化机制,内部效果退化为静态色块。编译器和单元测试很难直接判断这些视觉问题。模型因此缺少可依赖的奖励信号来修正行为。

文章进一步指出,今天的Agent基准分数已经不能简单理解为给语言模型出题。以SWE-Marathon为例,它考察持续性软件工程任务,完成率除了依赖底层模型,还受Harness(围绕模型构建的执行框架)的直接影响。Meta官方Model Card明确说明,在SWE-Marathon评测中,GPT-6 Astra和Claude Fable 5.1分别使用Codex与Claude Code执行系统,并非统一Harness条件下的受控比较;Wonder Full的57.5分还使用了xhigh推理档位。

这意味着排行榜上的一个数字,压缩了模型推理能力、执行框架优化和计算资源投入三个变量。文章认为,如果要比较基础模型的推理与规划能力,需要尽可能统一工具环境、Harness和推理预算;但如果比较的是能投入生产的编程智能体产品,完整执行系统的表现本身就有工程价值。问题在于,当这些配置差异被压缩成一个分数时,外部很难判断成绩增长究竟来自哪里。

值得注意的是,Meta自己的技术文章专门设置了Capabilities That Generalize章节讨论分布外泛化问题。团队将任务分为后训练重点优化的分布内任务和未针对性优化的分布外任务,并比较 Muse Spark 1.3 与 Muse Wonder Full 在不同推理预算下的表现变化。Meta认为更强的基础模型使后训练收益能更有效地迁移到其他任务。但文章指出,分布外泛化不能只用一个综合平均分来描述——不同任务之间的距离、需要补充的知识以及评价结果的方法,均会影响模型表现。单个熔岩灯失败只能说明模型没有完成当前任务,无法直接证明它针对公开题库进行了过度优化。

信息源:leiphone.com

研究
下一页阅读 →