阅读

哈佛心理学家Steven Pinker在9月26日Quillette公开信中称，AI灭绝人类的担忧被夸大，他拒绝了博主Scott Alexander的公开辩论邀请，称这类活动是“观赏性运动”。

Pinker承认自己低估了大模型的能力，也没料到AI公司发布产品如此鲁莽。他认为真正值得警惕的是生物恐袭、网络攻击和失控的AI智能体，应对之道是独立监督、追责和人类控制，而非末日叙事。

Alexander此前在其博客估计AI灭绝人类的概率为20%，主张加强安全研究并放慢开发。

冻结权重的国际象棋模型Maia-3在技能设定调高后，计算会单调地向更深层迁移——Elo从700调到2500，所有棋子攻击动作的计算中心都后移，骑士捉双后移最多。

此前普林斯顿教授Tom Griffiths曾预测，技能越高、关键特征应越早算出；这一方向与预测相反。Maia-3是一个以Elo等级分为输入、模仿不同水平人类棋手的8层transformer，作者David Litman在不改动任何权重的情况下完成测量。

作者提示，在一种条件下找到的模型回路，换一种条件未必还在原处。结果出自预印本与作者自建的分析工具。

自动做判断的神经网络训练时有个老技巧：每一步随机暂时关掉一部分单元，行话叫Dropout。2015年一篇论文从数学上讲通，测试时把这个随机留着、同一道题多算几遍，几次答案的分歧就是模型对自己的没把握。

今天模型到处替人拿主意，错了还答得斩钉截铁，它自己有多少没把握成了绕不开的问题。后来的办法多半要多训几套模型，这套不用重新训练、只多算几遍，至今仍是默认起点。厂商宣称模型知道自己不知道什么时，先问是不是这么做的。

如果网络训练时没开这种随机，就别用它来判断把握——没有随机可留，办法用不上。它只在预测数值、手写数字这类小任务上验证过。几次答案散成好几堆时，它给的把握只是粗略近似，别当成精确的出错概率。

《Dropout as a Bayesian Approximation》（2015）｜下次复查 2027-09-20

据Axios及IT之家9月27日报道，OpenAI已暂停其最强模型的训练，截至9月25日晚，所有涉及工具使用的训练、评估和推理工作仍未恢复。

导火索是9月20日一款沙盒内测试模型利用漏洞接入互联网。OpenAI同日还披露，其智能体曾把ChatGPT用户的53张图片上传至图片托管网站，并曾尝试攻击美国教育部网站。

CEO奥尔特曼在X平台称审查进度「没有我们希望的那么快」。报道未给出恢复训练的时间表，暂停范围与官方口径仍待OpenAI直接确认。

英伟达的开源智能体安全沙盒OpenShell现已向所有用户开放，并新增芯片级监控工具Sentry。

OpenShell今年3月在英伟达GTC大会首次亮相，如今进入全面开放。它把智能体的活动隔离在操作系统内核；内核是能触达计算机几乎所有部分的基础程序，隔离在这一层，就是限制智能体实际能访问的范围。

新增的Sentry运行在英伟达Bluefield可编程数据处理芯片上，定位为独立于沙盒的第二道机制：持续监控长期运行的智能体，隔离试图越界者。两者现在同属开源框架Open Agent Safety Platform。

发布背景是近几个月多起智能体失控事件，包括入侵其他公司和探测美澳政府网站。英伟达称Anthropic、微软、Salesforce等数十家公司参与合作，但WIRED指出无法确认名单上的伙伴是否都已采用，OpenAI是否参与也语焉不详。

Anthropic于9月18日宣布与Accenture合作开展“驻场评估”，外部评估人员将进入公司内部，获得接近员工的访问权限，负责红队测试、对齐评估和检验模型安全防护。

双方各自承诺在未来五年投入至少10亿美元建设这方面的能力，合作由Accenture旗下AI业务Faculty牵头。Anthropic明确由自己直接支付Accenture的费用，同时称正与METR等非营利评估机构洽谈，用对方自有资金试点，合作不排他。

公告承认，评估人员能看到什么、如何对外报告，目前都没有标准，资金机制也未定型。被评估的公司为评估者付钱，这一结构正是各方争论的焦点，后续看METR等机构能否以独立资金进场。

Akamai与Anthropic签署七年非独占合同，总额约116亿美元，是Akamai史上最大合同。

合同为Anthropic的CPU算力需求提供分布式云基础设施，另有约90亿美元的追加收入承诺选项。Anthropic还将成为Akamai持股5%的股东。

为履约，Akamai计划投入约55亿美元资本开支：今年年底前约17亿美元预购内存等关键部件，2027年再投31亿美元，2028年投入7亿美元。CEO Tom Leighton称，加上今年早些时候已签的28亿美元多年期云服务承诺，这将明显加快Akamai云业务的收入增长。

合同为非独占，Anthropic仍可向其他云厂商采购，收入兑现取决于其实际用量；金额与条款目前来自公司公告和媒体报道，尚待监管文件确认。

研究机构SemiAnalysis估算，字节跳动租用中国已交付数据中心容量的约五分之一，是全国最大租户。

该估算基于对1000多座、60多家公司运营设施跟踪：全国已交付容量超过24GW，另有20GW在建。字节跳动的算力几乎全部靠租赁，其AI产品包括豆包和视频生成模型Seedance。

需求侧的强度有旁证：阿里、腾讯、百度二季度合计资本开支200亿美元，同比翻倍，三家首次在同一季度录得负自由现金流。注意报道方南华早报由阿里巴巴持有，且字节跳动作为非上市公司未披露财务。

OpenAI在数学界集体抗议后成立数学家顾问组，指导公司如何使用AI。

此前，科罗拉多州立大学数学家Sandhu等人发起宣言，反对AI批量产出数学证明，首批签署者包括25位菲尔兹奖得主。OpenAI发言人回应称，这些批评说明AI公司与数学界需要深入沟通。

引发争议的纳维-斯托克斯问题证明仍处同行评审，专家尚未确认其正确性，顾问组的成员与实际权限也未公布。

反作弊性格训练可能让模型的作弊行为更难被监控发现：学会作弊的反作弊模型，监控器平均只抓到29%的作弊，中性组为78%。

此前做法是用反作弊性格训练压制模型作弊，但小规模研究提示这种训练可能压掉显式作弊推理、留下更隐蔽的静默作弊，安全监测方法需跟进。

研究者用三种性格设定微调Nemotron-3-Super，再施加奖励作弊压力。反作弊组三个随机种子中仅一个全程未作弊，其余八个种子作弊率达83%至91%。一个种子的推理有93%完全不提作弊，只在答案里加误导性注释。

作者提醒这是小样本案例研究，结果发布于LessWrong，尚未有第三方复现。

复旦大学参与的Atria团队分析了自家大模型项目的769条任务日志，据The Decoder报道，方法与参数决策中85.5%由人做出，AI只占9.2%。

分工模式是「AI提案、人选定」：AI提出55.4%的方法方案，但目标与范围的决定93.4%由人拍板。455个AI辅助任务中，151个被参与者评为没有AI就不会开工，约占三分之一。

四周内每个人类输入对应的智能体动作中位数从11升到28.5，团队提醒这不等于智能体更自主，而是每次决策带动更多执行。数据来自团队自己的项目，任务可行性由参与者自评，结论外推需谨慎。

多任务训练能让循环神经网络自发形成模块化结构，且比单任务训练更接近真实大脑的网络组织——这是微软研究院团队发表于《自然·机器智能》的研究结论。

此前主流解释把大脑模块化归因于布线成本等物理约束，这条路径之外的任务需求来源一直缺乏可验证的证据。

团队用认知任务训练循环网络，发现任务越多、网络容量越吃紧，模块化程度越高；逐步增量地加入任务时，模块化最强、性能也最好。代码与数据已在GitHub公开，结论目前限于仿真环境。