阅读研究雷达投资体系
登录 / 注册
登录 / 注册
阅读研究雷达投资体系
全部阅读技术产品投资二级市场其他

阅读

2026-11-223 篇

刷新

佛蒙特州修道院Maple被指录音训练“AI神”,《纽约客》报道

实质变化
2026-11-22 00:04

位于美国佛蒙特州的“地球生命保护修道院”(简称Maple)据报正试图确立其作为人工智能行业精神权威的地位。根据《纽约客》2026年11月的一篇报道,由Soryu Forall领导的该组织招募科技工作者,并被指控利用持续监控来构建一个基于Forall自身意识的AI模型。

前成员指控该组织进行系统性操纵,称修道院记录了每一次对话、沉默的用餐时间,甚至呼吸声。这些录音据称旨在训练一个专门以Forall思想为蓝本的“灵性AI教师”或“AI神”。该组织公开承诺将人类从AI末日中拯救出来,并将自己定位为Forall所称的破坏性宗教“数据主义”的对立面。

Maple针对科技行业的特定人群,包括精疲力竭的理性主义程序员、AI工程师和数据中心建设经理。虽然LinkedIn联合创始人Reid Hoffman等知名人士曾接触佛教文本,但Maple专注于普通员工。税务文件显示,该组织年收入高达100万美元。修道院的生活遵循严格的常规,包括早起、长时间冥想以及公开评估精神进步。

报道将这些指控与更广泛的趋势联系起来:由于巨大的心理压力和灭绝恐惧,AI研究人员中正出现宗教思维和类似邪教的虔诚。一位研究人员将旧金山的氛围描述为“对未来的宗教恐怖”,指出开发者常常因担心超级智能而惊醒。这一环境还出现了其他准宗教行为,例如前谷歌工程师Anthony Levandowski创立了“未来之路”教会以崇拜AI神祇,以及Anthropic高管咨询神学家关于其模型是否拥有灵魂的问题。

信息源:The Decoder

研究

《模型卡片》:为机器学习模型建立透明化报告框架

核验于 2026-11-22 00:00

长期信息 · 《Model Cards for Model Reporting》(2019)

在人工智能技术日益渗透至执法、医疗、教育和就业等高影响领域的背景下,如何确保模型使用的透明度和安全性成为关键问题。2019年发表的论文《模型卡片》(Model Cards for Model Reporting)提出了一种标准化的文档框架,旨在通过“模型卡片”来记录训练好的机器学习模型的性能特征和预期用途。

该研究指出,目前缺乏标准化的文档程序来传达机器学习模型的性能特征,这导致模型在被部署前难以评估其潜在风险。作者建议,发布的模型应附带简短的文档,即“模型卡片”,以鼓励透明的模型报告。这些卡片不仅披露了模型预期的使用场景和性能评估细节,还特别强调了对不同文化、人口统计或表型群体(如种族、地理位置、性别等)以及交叉群体的基准评估。例如,文中提到MIT媒体实验室研究生Joy Buolamwini发现商业人脸识别系统未能检测到她的脸,进而揭示了计算机视觉系统对美国历史上边缘化群体(如深肤色女性)存在不成比例的错误率。这一案例凸显了仅看整体准确率而忽视细分群体表现的局限性。

《模型卡片》的核心贡献在于引入了“交叉分析”(intersectional analysis)的概念。文章引用Kimberlé Crenshaw的交叉性理论,指出单独考虑种族或性别等离散特征并不能准确反映它们之间的相互作用。因此,模型评估不应仅针对单一群体(如“男性”或“女性”),而应同时考察两个或多个特征的交互影响(如“黑人女性”)。这种细粒度的评估方法有助于揭示那些可能不成比例地落在某些人群身上的错误,从而促进更公平和包容的技术应用。

对于当前的AI从业者、政策制定者及受影响个体而言,《模型卡片》提供了一套实用的工具。它帮助开发者比较不同模型在同一空间内的结果,协助软件工程师基于预测做出设计决策,并让政策制定者理解机器学习系统可能在哪些方面失败或成功。尽管该框架主要聚焦于计算机视觉和自然语言处理中的人本中心模型,但其原则可应用于任何训练好的机器学习模型。阅读这篇由Margaret Mitchell等人撰写的2019年论文《Model Cards for Model Reporting》,有助于读者深入理解如何通过标准化文档来提升AI系统的责任感与透明度,是探索AI伦理与工程实践结合的重要起点。

信息源:《Model Cards for Model Reporting》(2019)

研究

巴菲特致股东信:遗产规划中的治理智慧与对资本主义的审慎乐观

核验于 2026-11-22 00:00

长期信息 · 《Warren Buffett's 2023 Thanksgiving Message to Berkshire Shareholders》(2023)

2023年11月21日,沃伦·巴菲特(Warren E. Buffett)向伯克希尔·哈撒韦公司(Berkshire Hathaway Inc.)的股东发布了一封公开信,宣布将其持有的1600股A类股票转换为240万股B类股票,并捐赠给四个家族基金会。这封信不仅是一次慈善行为的披露,更是一份关于财富传承、机构治理以及个人价值观的深度阐述。对于关注长期价值投资和公司治理的读者而言,理解巴菲特如何安排其身后事,比单纯关注股价波动更具启示意义。

信中首先确立了巴菲特对“世袭财富”的态度。他明确指出,尽管在美国及世界许多地方,世袭财富是合法且常见的,但他和他的三个子女共同认为这种财富形式“并不理想”(not desirable)。这一观点挑战了传统富豪通过巨额遗产维持家族特权的常规做法。巴菲特强调,富有并不能使人变得智慧或邪恶,这是一种对人性与财富关系的冷静观察。基于此信念,他选择将绝大部分财富(99%以上)注入一个慈善信托,而非留给后代直接支配。这种决策背后的逻辑是:资本配置的效率应服务于社会整体福祉,而非家族内部的权力延续。对于投资者来说,这展示了创始人如何将个人道德准则融入最终的资产处置方案中,体现了伯克希尔文化中“所有者心态”的极致延伸。

其次,信件详细阐述了该慈善信托的治理机制,特别是针对“不确定性”的制度设计。巴菲特规定,他的三个子女作为遗嘱执行人和受托人,在管理信托时必须“一致行动”(act unanimously)。这是一个极具约束力的治理条款,旨在防止内部冲突导致的资源浪费或方向偏离。同时,他承认法律和社会环境会随时间变化,因此主张信托章程应保持宽泛,由“在世且明智的受托人”根据当下情况做出判断,而不是被已故者制定的僵化规则所束缚。这种“活人优于死法”的治理哲学,反映了巴菲特对复杂系统适应性的深刻理解。此外,信托将在大约十年后自我清算,并以精简的人员运作,这确保了资金能高效地转化为实际的社会影响,避免了官僚机构的膨胀和低效。

最后,巴菲特在信中表达了对美国资本主义制度的坚定支持,同时也坦诚其缺陷。他将美国称为其信念的“主要例证”(exhibit A),认为尽管资本主义存在财富和政治影响力分配不均等弱点,但它依然创造了奇迹。这种观点并非盲目的赞美,而是建立在理性评估基础上的务实态度。他提到自己93岁高龄,感觉良好但深知生命有限,因此提前安排这一切是为了确保伯克希尔·哈撒韦在他去世后仍能保持声誉。他强调,伯克希尔的优势在于它是“为持久而建”(built to last)的,即使未来可能出现人为错误,只要拥有正确的CEO和董事会,这些错误不太可能严重到损害公司的根本。这段论述对于理解伯克希尔的长期竞争力至关重要:其护城河不仅在于业务本身,更在于其独特的文化和治理结构能够抵御时间的侵蚀。

《巴菲特致股东信:2023年感恩节信息》由沃伦·巴菲特于2023年撰写。适合那些希望深入理解顶级投资者如何处理财富伦理、公司治理连续性以及宏观制度信心的读者阅读。建议从信中关于信托治理机制的部分入手,结合伯克希尔的历史年报,对比分析其日常运营决策与最终遗产安排之间的一致性,从而获得对“长期主义”更立体的认知。

信息源:《Warren Buffett's 2023 Thanksgiving Message to Berkshire Shareholders》(2023)

研究

CFA Institute

  • 人工智能节省的能源是否比其消耗的更多?↗

    视频 · 2026-11-21

Morgan Stanley

  • 蓝色浪潮后债券市场为何保持平静↗

    视频 · 2026-11-21

Masters of Scale

  • 快速响应——为什么一切都在崩溃:中断、AI 和新的网络数学,与 CrowdStrike 的 George Kurtz↗

    播客 · 2026-11-21

Odd Lots

  • 人工智能如何迫使中国重塑产业政策↗

    播客 · 2026-11-21

The Cognitive Revolution

  • 将领先优势用于安全:拜登AI顾问本·布坎南与坦图姆·柯林斯谈世界命运↗

    播客 · 2026-11-21

  • 将领先优势用于安全:拜登AI顾问本·布坎南与坦图姆·柯林斯谈世界命运↗

    播客 · 2026-11-21

2026-11-216 篇

韩国在高考中启用紧急灾害警报以打击AI作弊,抓获54名考生

实质变化
2026-11-20

韩国政府在大学入学考试(CSAT,又称“修能”)期间部署了紧急灾害警报,以检测违禁电子设备。这一新颖的执法手段当场抓获了54名试图使用微型摄像头和智能手机等AI辅助作弊工具的考生。

此次严打行动源于近期认证税务师考试状元Han Won-seok的供认,他承认使用微型摄像头将考题图像传输至智能手机上的AI进行作弊。事件发生后,韩国总理李在明表示,公共考试中的AI滥用破坏了社会公平,并呼吁对系统进行彻底改革。

在CSAT考试当天,警报分别在上午8:30、下午2:21和2:57触发三次。第一次警报在考试开始前就查获了31名学生,随后两次又查获23人。结合金属探测器、WiFi信号监测等其他手段,共有111名学生被查出携带违禁设备。

信息源:Tom's Hardware

研究

为何AI公司如今成为“美人计”目标,而其企业文化尚未跟上

实质变化
2026-11-21 04:58

文章的核心论点归因于前中情局官员亚伦·布朗和网络犯罪学家佩里·卡彭特:人工智能行业转变为具有国家安全意义的领域的速度,快于其组织文化适应由此产生的威胁模型的速度。历史上,“美人计”主要针对政客、军方人员和国家情报机构——即那些拥有保密许可、且受过训练以预期间谍及其他攻击者接近的人群。而如今,掌握关键秘密的是AI公司:芯片路线图、出口决策、客户名单,以及谁获得了该技术。

布朗描述的机制很直接。间谍想要CEO能接触到的东西:路线图、出口决策、客户名单、谁获得技术。CEO是获取所有这些信息的捷径。但攻击并不一定需要浪漫关系。布朗说,友谊是最古老且诚实的陷阱手段。攻击者以投资者、客户、招聘人员和咨询公司的身份获取访问权限。他们的请求在纸面上看起来合法合理。他们不需要让目标坠入爱河——他们需要让目标在交谈时感到舒适。

使这一问题变得紧迫的新因素是成本曲线。过去策划一个骗局需要数月甚至数年:研究、打造人设、了解目标、执行计划。现在,人工智能极大地压缩了这一时间线。它可以研究目标、生成虚假社交档案、伪造背景资料,甚至制作虚假语音通话。卡彭特指出,人工智能可以帮助维持整个虚构的背景故事,尽管欺骗最终是通过人际关系展开的。

实用的检测建议具体但并不令人安心。卡彭特建议留意那些发生频率略高的巧合相遇、对工作和同事持续的好奇心、要求对会面保密的请求,以及迫切要求引荐的行为。布朗提供了一个更简单的直觉检查:如果你明天失业了,这个人还会留在你身边吗?

结构性脆弱性在于组织层面。卡彭特建议,在公司内部,消除“高管例外主义”也有帮助——即认为规则不适用于掌权者的观念。布朗补充说,公司文化决定了员工是否愿意提出担忧、质疑异常请求以及上报潜在威胁。卡彭特观察到,最危险的安全文化之一是没有人敢于质疑CEO,这是文章中最尖锐的观点。

对这一框架的最强反驳在于,它描述了一个威胁格局却未对其进行量化。除了单一的有争议的英伟达(Nvidia)案例外,文章没有提供证据表明有多少AI高管实际上已被渗透。检测启发式方法只是通用的安全意识建议,缺乏实证验证。此外,关于人工智能使“美人计”更容易且更便宜的说法是由从业者断言的,而非经过测量——没有研究比较人工智能前后攻击成功率或成本的差异。这一论点作为关于行业重要性与安全文化之间结构性差距的警告是有效的,但它尚无法确立该问题有多大或多迫在眉睫。

信息源:TechCrunch

研究

AMD发布Nitro-P:像素空间文生图模型一步生成达90样本/秒

实质变化
2026-11-20 08:00

2026年11月20日,AMD发布了端到端像素空间文生图(T2I)扩散框架Nitro-P。该模型基于其此前发布的潜空间模型Nitro-E,通过采用分层语义到像素架构,将家族扩展至无变分自编码器(VAE)设计。这一结构由基于E-MMDiT的补丁级语义建模组件和作为轻量级U-Net解码器实现的像素级调制引导重建组件组成。

直接在像素空间运行的核心优势在于从推理流程中移除了VAE解码器。在传统潜空间模型中,生成的潜在表示必须通过VAE解码器转换回RGB图像,这带来了不可忽视的计算开销。Nitro-P完全绕过了这一最终解码步骤。根据AMD在单张AMD Instinct™ MI300X GPU上以32批次大小进行的自报基准测试,全步数Nitro-P模型在512px图像生成中实现了10.26样本/秒的吞吐量。其蒸馏的一步变体进一步将吞吐量提升至90.02样本/秒。

为了隔离移除VAE解码器的影响,AMD比较了Nitro-P与Nitro-E的端到端吞吐量。结果显示,这种性能差距在少步数区间最大。在512×512分辨率下,一步蒸馏的Nitro-P达到90.02样本/秒,而Nitro-E为44.13样本/秒。然而,随着采样步数的增加,差距缩小。在全20步设置下,Nitro-E实际上更快(18.83样本/秒对10.26样本/秒),因为去噪主干网络主导了运行时间,且潜空间路径每步成本更低。这些发现表明,Nitro-P特别适用于低NFE(函数评估次数)、高吞吐量的服务场景。

在生成质量方面,Nitro-P在512×512和1024×1024分辨率下分别取得了0.88和0.87的竞争性GenEval分数。一步蒸馏变体的质量适度下降,在512×512下得分为0.85。所有模型均从头开始在公开数据上训练,包括一个包含2500万真实和合成图像的精选数据集。AMD已发布模型权重和完整训练代码以支持可复现性。

信息源:ROCm Blogs

研究

美国超40项公投限制AI数据中心扩张

实质变化
2026-11-21 00:43

2026年美国中期选举结束后,全国范围内已有超过40项旨在限制数据中心增长的公投措施获得通过。这一结果标志着人工智能基础设施的监管格局发生了显著转变,从联邦层面的立法辩论延伸至州级的直接约束。

这些措施的通过凸显了公众对AI数据中心快速扩张日益强烈的反对情绪,此类设施常因占用大量土地和消耗能源而受到批评。例如,参议员马克·凯利(Mark Kelly)近期将新墨西哥州的一个特定数据中心项目描述为“相当于1000个足球场大小”,该说法已被调查媒体Searchlight New Mexico证实。如此巨大的规模引发了当地居民的强烈反对,导致选民成功发起并通过了旨在遏制进一步开发的倡议。

这一趋势给计划大规模部署AI的科技公司带来了切实挑战。尽管硅谷高管可能将这种情绪视为营销或教育问题,但通过公投实施的具体法律限制造成了直接的运营障碍。州议员和州长正日益获得执行这些限制的权力,这可能会放缓先进AI模型所需的基础设施建设速度。

信息源:semafor.com

研究

mixup:超越经验风险最小化的数据增强方法

核验于 2026-11-21 00:02

长期信息 · 《mixup: Beyond Empirical Risk Minimization》(2017)

大型深度神经网络虽然功能强大,但往往表现出记忆训练数据和对抗样本敏感等不良行为。传统上,这些网络通过最小化训练数据上的平均误差来训练,即经验风险最小化(ERM)原则。然而,当模型参数数量与训练样本数量相当时,ERM容易导致模型“记住”而非“泛化”数据,且在分布外样本上预测不稳定。

为了解决这一问题,论文提出了mixup方法。这是一种简单且与数据无关的数据增强技术。其核心思想是构造虚拟训练样本,通过对两个随机选取的训练样本及其标签进行凸组合来实现。具体而言,对于输入向量 $x_i$ 和 $x_j$,以及对应的独热编码标签 $y_i$ 和 $y_j$,生成新的样本 $\tilde{x} = \lambda x_i + (1-\lambda) x_j$ 和 $\tilde{y} = \lambda y_i + (1-\lambda) y_j$,其中 $\lambda$ 是从 Beta 分布中采样的混合系数。这种方法隐含了特征向量的线性插值应导致目标值线性插值的先验知识。

实验表明,在ImageNet-2012、CIFAR-10等数据集上,mixup显著提高了最先进神经网络的泛化能力。此外,它还减少了模型对错误标签的记忆,增加了对抗样本的鲁棒性,并稳定了生成对抗网络(GANs)的训练。Mixup的实现仅需几行代码,计算开销极小,是一种高效且通用的正则化手段。这篇发表于2017年的《mixup: Beyond Empirical Risk Minimization》适合希望理解如何通过简单的数据增强策略提升深度学习模型泛化能力和鲁棒性的研究人员及工程师阅读。建议从论文的引言和方法部分开始,重点关注其如何以极低的计算成本替代复杂的领域特定数据增强。

信息源:《mixup: Beyond Empirical Risk Minimization》(2017)

研究

伯克希尔·哈撒韦《所有者手册》:像合伙人一样思考,用穿透收益衡量价值

核验于 2026-11-21 00:02

长期信息 · 《Berkshire Hathaway Owner's Manual》(1996)

在1996年发布的《伯克希尔·哈撒韦所有者手册》中,沃伦·巴菲特向股东阐述了公司运营的核心哲学。这份文件并非详细的财务披露,而是旨在帮助新股东理解管理层的经营原则、目标与局限。对于希望建立长期投资框架的读者而言,其中关于所有权观念、价值衡量标准以及会计局限性的论述具有持久的指导意义。

首先,手册确立了“所有者-合伙人”的心态。巴菲特指出,尽管伯克希尔采用公司形式,但其态度是合伙制。他和查理·芒格将股东视为所有者-合伙人,将自己视为管理合伙人。他们不认为公司是业务资产的最终所有者,而是视公司为股东拥有资产的渠道。这一理念要求投资者不要仅仅持有价格每日波动的纸张,而应想象自己是企业的部分所有者,如同拥有农场或公寓楼一样,期望长期持有。这种心态的转变是抵御市场短期噪音的基础。

其次,公司的长期经济目标是最大化每股内在价值的平均年增长率,而非单纯追求规模。巴菲特明确表示,他们不以公司规模来衡量经济重要性或业绩,而是以每股进步来衡量。他承认,随着资本基数的扩大,每股进步的速度在未来必然会放缓,甚至可能远低于过去25%的年复合增长率,但目标仍是超越美国大型企业的平均水平。这一原则强调了复利在有限资本下的效率,提醒投资者关注单位资本的回报质量,而非总量的膨胀。

第三,为了克服传统会计的局限性,伯克希尔引入了“穿透收益”(look-through earnings)的概念。由于伯克希尔既直接拥有多元化企业,又通过保险子公司持有大量可交易普通股,合并报表中的已报告收益往往无法反映真实的经济表现。因此,巴菲特和芒格几乎忽略这些合并数字,转而报告被投资公司未分配收益中属于伯克希尔份额的部分(扣除若作为股息支付所需缴纳的税款)。他们认为,只要被投资企业能有效地利用留存收益创造更多价值,这些未报告的收益最终会通过资本增值完全反映在伯克希尔的内在价值中。这一方法揭示了账面利润与经济现实之间的差距,鼓励投资者关注现金流的实际再投资能力。

假设一位现代投资者面对一家高增长科技公司的股价剧烈波动,感到焦虑并考虑卖出。如果应用《所有者手册》的原则,该投资者不应仅盯着每日报价,而应评估自己是否真正理解该公司的业务护城河及其留存收益的使用效率。就像巴菲特对待可口可乐或吉列股份那样,如果长期预期良好,短期价格变化除了提供低价增持的机会外毫无意义。投资者应问自己:我是否像合伙人一样看待这笔投资?我是否关注的是每股内在价值的增长,而非市值的瞬时起伏?

《伯克希尔·哈撒韦所有者手册》由沃伦·巴菲特于1996年撰写。它适合那些希望从投机转向投资、寻求建立稳健长期思维框架的个人投资者阅读。建议从“所有者相关的商业原则”部分开始,重点研读关于合伙人态度、内在价值目标及穿透收益定义的章节,这些内容构成了伯克希尔投资哲学的基石。

信息源:《Berkshire Hathaway Owner's Manual》(1996)

研究

2026-11-2014 篇

英国调查权力法庭裁定内政部必须确认向苹果发出的加密后门命令

实质变化
2026-11-20

英国调查权力法庭(Investigatory Powers Tribunal)是依据《调查权力法》(IPA)监督监控命令的独立法院。该法庭于周四裁定,英国内政部必须确认其已向苹果公司发出技术能力通知(Technical Capability Notice,简称TCN),要求削弱加密功能。法官驳回了政府关于披露该命令存在会损害国家安全的论点,但裁决指出,并非该命令的所有细节都必须公开。

这一TCN促使苹果在去年二月为英国用户禁用了iCloud高级数据保护(Advanced Data Protection,简称ADP)功能。ADP为存储的数据提供端到端加密,意味着连苹果也无法访问这些文件。虽然该通知的存在此前已为人所知,但内政部一直拒绝正式确认或否认。此次裁决迫使政府承认这一行动,但并不要求其撤销请求,这意味着英国用户在短期内将继续无法使用ADP功能。

代表两名英国公民发起法律挑战的隐私组织“自由”(Liberty)称此决定为“透明的胜利”。该组织主任Akiko Hart表示:“此案关乎隐私以及我们如何保护个人数据安全。在数字时代,端到端加密赋予我们控制个人信息和自由安全沟通的能力。”Proton公共政策主管Jurgita Miseviciute欢迎这一裁决作为透明的胜利,但批评了IPA本身,称:“不存在只让好人进入的加密后门。”

苹果此前曾声明,它“从未构建过任何产品或服务的后门或主密钥”,也“永远不会这样做”。该公司确认,包括英国在内的全球范围内,iMessage和FaceTime仍保持端到端加密。“自由”和国际隐私组织(Privacy International)等隐私团体宣布,他们将继续挑战英国政府发布此类命令的权力本身。关于这一更广泛宪法问题的最终听证会预计将于2027年举行。

信息源:TechRadar

研究

Noah Smith:关于“智能爆炸”的辩论并非 AI 安全政策的正确框架

实质变化
2026-11-20 18:13

Vernor Vinge 曾预测奇点将在 2005 年至 2030 年间到来。旧金山几乎所有的 AI 安全讨论仍然集中在递归自我改进是否临近,以及我们是否应该故意放缓 AI 进步以防止其触发智能爆炸。Noahpinion 通讯背后的经济学家 Noah Smith 越来越怀疑这是否是应该提出的正确问题。

Smith 简要阐述了这场辩论,然后论证其焦点错位。一方面,Ramez Naam、Theo Jaffee 以及经济学家 Luis Garicano 和 Alex Imas 指出 OpenAI 的数据表明,AI 目前仍只能自动化研究过程中的短片段,他们认为收益递减意味着每一次能力增强带来的加速效果都在减弱,并指出整体进步速度尚未出现加速迹象。另一方面,一份关于 Anthropic 内部研究的 METR 报告猜测,近期 AI 进步加速的大部分(可能约为 80%)归因于 AI 本身,而 Dwarkesh Patel 则类比数学领域——模型从 2023 年无法进行四位数加法到在 88 小时内解决一个千禧年大奖难题——认为 AI 研究具有使这种跳跃成为可能的同样可验证属性。

Smith 的核心论点在于,这场辩论的答案不会改变政策图景。如果智能爆炸是可能的,它就会发生,因为任何程度的减速都无法阻止它。将 AI 进步速度减半只会将阈值从例如 2032 年推迟到 2037 年——对于任何认为爆炸将是灾难性的人来说,Smith 称这几年的额外时间为“微不足道”。真正防止它的唯一方法是完全停止 AI 进步,而 Smith 同意 Vinge 在 1993 年提出的观点,即竞争优势使得这在政治上不可能实现。

Smith 也不认为对齐研究能使爆炸变得安全。在稳步线性进步的世界里,控制前沿发展以便对齐工作能够跟上可能会有所帮助,但在突然超指数增长的世界里,对齐研究会立即被抛在后面。即使存在一个用于理解对齐的奇点,那也将由超级智能 AI 自身执行并决定其自身的对齐方式。

Smith 论点的后半部分认为,爆炸与正在发生的事情无法区分。AI 从无法相加两个数字到在三年内解决所有人类数学家合力都难以解决的问题,并不被视为智能爆炸。Smith 写道,按照目前的稳步进步速度,AI 将在相对较短的几年内在大多数领域变得超人化——即使是机器人技术和物理任务,看起来也可以用驱动 Claude 和 GPT 的那种 AI 来攻克。这意味着,无论 AI 是否看起来像 Vinge 小说中那种无限自我改进的神,在我们有生之年,AI 基本上都会看起来像神一样。

Smith 随后转向经济学。他指出,技术通常会达到一个有用性的阈值,此时采用在经济上是合理的,从而产生快速但局部的生产力增益,这些增益很快就会完成。Fiszbein 等人(2024 年)展示了电气化的情况;Bartel(2005 年)展示了 IT 赋能机器的情况。每一项发明都创造了许多小的局部奇点,只有当你在整个经济中把它们加起来时,你才会得到某种看起来像大平滑波的东西。突然变得超级智能的 AI 不受局部性的限制——根据定义,如果它愿意,它可以接管全部或大部分人类任务。但是,如果没有发生爆炸,这些接管很可能是交错且不规律的,并且在最初几年之后的经济影响可能不会有太大不同。

政策结论随之直接得出:我们需要接受没有人能足够地控制前沿发展以防止超级智能的出现,而且很可能没有人会这样做。紧迫的工作是监管我们已经拥有的 AI——制定竞争政策以确保利益不被一家公司垄断,防止 AI 赋能的生物恐怖主义,确保经济收益广泛共享。Smith 的框架故意具有挑衅性:如果机器之神苏醒,那就让它苏醒吧,我们将简单地应对它。与此同时,他认为,我们需要专注于处理我们现在拥有的 AI。

对 Smith 论点的最强反驳是他可能低估了那几年额外时间的价值。如果对齐研究真的接近突破——这一结果将使超级智能 AI 无论以多快的速度到来都是安全的——那么控制速度就不是微不足道的,而是灾难与生存之间的区别。Smith 承认这种可能性,但予以驳斥,认为在超指数世界中,对齐研究无论如何都无法跟上步伐。这种驳斥是否合理取决于一个关于对齐难度的实证问题,而 Smith 并未解决这个问题。

信息源:noahpinion.blog

研究

Signal屏蔽截图功能以阻止AI代理读取消息

实质变化
2026-11-20 20:30

Signal推出了一项新的隐私措施,限制在其应用内进行截图的能力,适用于iOS 27和安卓设备。该公司表示,此举旨在防止操作系统内置的代理式AI功能(如苹果的Siri和谷歌的Gemini)通过分析屏幕内容来访问用户的加密消息和其他数据。Signal总裁Meredith Whittaker在一篇博客文章中表示,这些AI能力“正在破坏Signal独立保证隐私的能力”,并敦促操作系统提供商为应用开发者提供更便捷的工具,以控制AI代理可以访问哪些数据。

该限制默认生效,但用户可以在Signal的应用设置中恢复截图功能。然而,Whittaker警告说,这样做将“潜在地暴露你(以及你的联系人)的Signal内容给这些AI代理,并破坏我们的隐私保证。”她承认,屏蔽截图这一补救措施是“不完整的”,因为它没有解决AI代理可能访问应用数据的其他途径,例如通过设备文件系统检索数据。这一局限性也解释了为什么Signal目前无法在macOS上实施类似保护。

此前一年,Signal曾采取类似步骤,阻止微软备受争议的Recall功能在Windows上捕获安全聊天内容。该即时通讯服务表示,由于缺乏关于AI代理如何实际访问应用数据的可用信息,其难以开发出更好的解决方案。Signal现在呼吁苹果、谷歌和微软向应用开发者提供“简单的技术工具和准确的文档”。该公司还指出,需要更多工具来防止第三方代理(如Meta的Muse)利用应用中的深度无障碍设置作为“万能钥匙”来访问应用数据。

Whittaker将当前在没有这些常识性补救措施的情况下将AI代理集成到操作系统的做法描述为对“应用层隐私的生存威胁”。她表示,虽然Signal是“煤矿里的金丝雀”,但这个问题影响整个生态系统,应该激励所有关心基本隐私权利的人。

信息源:The Verge

研究
下一页 →