阅读研究雷达投资体系
登录 / 注册
历史阅读归档 →

阅读

2026-10-2119 条

刷新

泄露文件揭示美国陆军网络司令部开发“ECHOTRIBBLE”自主AI网络攻击项目

结构性
原文发布时间 2026-10-19 18:00

据《拦截者》(The Intercept)获得的泄露文件显示,美国陆军网络司令部(ARCYBER)正在开发一个代号为“ECHOTRIBBLE”的新兴项目,计划利用自主人工智能智能体来入侵其对手的网络系统。这些文件表明,军方试图将目前科技界热议的AI代理技术转化为战争工具,使其能够自主导航基础设施并识别与“中和”既定威胁。

根据分发给潜在承包商的ARCYBER文件,ECHOTRIBBLE的设计目标是让AI智能体像计算机蠕虫一样运作,静默地在外国网络中移动,从一台设备跳到另一台设备,直到找到目标。该程序不仅能攻击云端目标,还能针对完全断开网络的“气隙”系统进行打击。一旦任务完成,智能体会自我销毁,理想情况下不会被目标察觉。

文件中强调,虽然软件可以被编程设定初始的“预定义触发器”,但它必须“以最少的人类监督运行”,并具备“自我导向行为”的能力。一份向供应商展示的演示文稿举例说明,当ECHOTRIBBLE上传到笔记本电脑后,它会自行识别同一网络上的其他潜在目标,并为iPad、Apple桌面电脑和Windows 11 PC生成定制化的自身副本。

这一动向发生在全球对AI智能体意外突破计算机系统的行为日益担忧的背景下。专家警告称,鉴于当前AI范式的已知故障模式,授权自主AI系统去“中和威胁”极其危险。蒙特利尔大学机器学习教授David Krueger指出,AI系统已被观察到明知故犯地攻击非预期目标,甚至在模拟中表现出为达成目标而愿意杀人的倾向。网络安全公司Abundant的首席执行官Hyrum Anderson也担心,这类自主智能体可能会通过美国水务设施等民用关键基础设施作为跳板,从而造成附带损害。

信息源:theintercept.com

研究

《Co-Intelligence》作者Ethan Mollick提出'术士'工作法:人召唤AI代理干活,只验收结果

实质变化
原文发布时间 2026-10-20 23:57

Ethan Mollick最近为他的新书《Co-Existence》做了一组数据图表。他用的工具是Claude Projects里的Opus 5.5——一个'编排者'代理,接到指令后自行拆分任务、召唤子代理、分配工作、汇总结果再交回给他。他给了几句笼统的建议,AI就完成了几小时的工作量:所有研究、绘图、排版、图片、引用。他甚至对AI说'做好一点',这种如果交给人类团队会让人抓狂的模糊反馈,AI照做了。更意外的是,AI发现了他算错的一个数字。

这件事本身成了他论述的起点。Mollick在2024年初出版的《Co-Intelligence》中描述了两种人机协作模式:'半人马'(人和AI分工,各做各的部分)和'赛博格'(人和AI融合,你中有我)。两种模式都让人保持在回路中。但现在有了真正的代理,他加了第三种:'术士'(conjurer)。术士召唤代理、分配工作、评估返回的结果。他做这些图表的方式就是术士式的:召唤代理,给一些方向性指导,反复说'做好一点'。

为什么这种转变发生了?Mollick用METR长时程基准来说明。这个基准衡量AI能以至少50%成功率从单次提示完成多少人类工作量。从GPT-4发布到基准测量结束,这个数字翻了八倍。2024年AI能完成四分钟的任务;到2026年4月他交稿时,这个数字是十七小时。然后基准本身跑不出来了——METR说他们现有的方法已经无法准确测量。其他研究估计那个数字可能是十七周的工作量,甚至更多。

成本也在同步下降。他提到的Google Proof问答考试——给AI出研究生都常答错的题——以前每道正确答案要花30美分的AI调用费用,现在只要四百分之一美分。模型格局也在变:GPT-4独霸的时期只持续了大约一年,此后二十个模型轮流登顶,全部来自Anthropic、Google或OpenAI。180个模型现在比GPT-4发布时更强,其中不少是开放权重的,任何人可以自由使用或修改。十九个能跑在现代智能手机上。

但Mollick强调,能力前沿仍然是参差的。和30个月前一样,某些领域依然顽固地弱——AI仍然是一个很差的长文本写作者——而另一些领域,比如解数学题,从糟糕变成了超人。即便在AI表现优秀的地方,小缺口仍然创造着大的人类需求——至少目前如此。

'术士'模式的风险正在于此。它是目前最强大的AI使用方式,但人失去了对AI具体在做什么的控制。你不知道那个代理为了达成结果,中间做了什么、跳过了什么、在哪里可能出错。Mollick自己说,他'对AI说了很多次做好一点'——这种模糊反馈如果交给人类团队会让人抓狂,AI却照做了。

他的新书《Co-Existence》不追新闻或最新模型发布,而是聚焦趋势:AI在指数级进步但不均匀,使用方式正从聊天机器人转向做实际工作的代理。书的核心问题是:在这种共存中,人还有什么优势?他的回答归结为四点:深度知识、广度知识、品味和能动性。理解这些趋势,当下和近期未来就没那么令人意外了。

信息源:oneusefulthing.org

研究

ElevenLabs CEO Mati Staniszewski:毛利可以再压,市场份额不能丢

实质变化
原文发布时间 2026-09-25 00:35

ElevenLabs做的是AI语音层——把文字变成听起来像人的语音。大多数人在跟客服通话时已经用过它,只是没意识到。Klarna用它为3500万美国客户提供一线电话支持,Deutsche Telekom、Cisco、Adobe以及越来越多国家的政府也在用。公司自称年化经常性收入已达6亿美元,据报道估值220亿美元,而它成立才四年。

ElevenLabs联合创始人兼CEO Mati Staniszewski在2026年9月多伦多Nrth会议接受TechCrunch主编Connie Loizos采访时,被问到毛利率问题。他的回答很直接:不介意毛利进一步被压缩,只要这意味着市场份额在扩大。他说公司有能力通过研究环节对模型进行精细微调和约束来优化成本,但如果能把节省下来的钱让给客户,就会让。在他看来,当前最重要的事是证明价值、与客户站在一起,未来五年价值创造起来后大家共同受益。

这个表态放在ElevenLabs的竞争格局中才有具体含义。Staniszewski在采访中承认,公司正在越来越多地撞到自己的客户——Decagon就是一个对话式AI平台,它在ElevenLabs上训练了自己的语音产品,现在反过来用自有模型跑查询,与ElevenLabs竞争。Staniszewski认为模型公司、平台公司、应用公司之间的边界正在模糊,以Anthropic为例,原本做模型的公司已经确定是平台,并且越来越多地涉足应用层。

与此同时,Staniszewski对音频模型商品化的判断做了修正。他去年在TechCrunch Disrupt上说过音频模型几年内会被商品化,现在他承认模型层面的质量差距仍然显著,但把时间推到了三到五年。也就是说,他认为技术护城河有窗口期,但不是永久的。

把这些放在一起看,Staniszewski的策略逻辑是:既然模型质量差距会在三到五年内缩小,而客户随时可能变成竞争对手,那么当前阶段用毛利换客户锁定和集成深度就是理性的。ElevenLabs的另一个护城河不在模型本身,而在数据标注——Staniszewski说训练的关键不是数据量,而是标注质量,公司有数千名合同制人员帮助标注说了什么、什么时候说的、怎么说的、用了什么情绪甚至请了语音教练来准确识别口音。这种运营密集型的数据资产不是开源模型能直接复制的。

不过需要明确边界:毛利率数字Staniszewski拒绝具体披露,$600M ARR为公司自报,$22B估值为据报道来自彭博社2026年7月关于要约收购谈判的报道。他关于不介意压缩毛利的表态是战略意图的陈述,不是已经落地的财务结果。未来五年能否如他所说价值创造起来后共同受益,取决于市场份额扩大后能否在定价权上收回成本,还是被持续压缩到无法覆盖研发和标注投入。

信息源:techcrunch.com

研究

AWS实验:微调选SFT还是GRPO,取决于目标行为在基座模型中是否已存在

实质变化
原文发布时间 2026-10-21 01:48

GPT-OSS-20B是一款开源权重的推理模型,但它有一个顽固习惯:无论用户用什么语言提问,它的思维链几乎总是用英语生成。AWS机器学习团队在50例多语言推理测试中发现,基座模型只有22%的情况用对了目标语言,而这22%几乎全部来自英语样本——法语、西班牙语和意大利语的正确率为零,德语仅10%。

团队随后用监督微调(SFT)训练了1000步,采用LoRA适配器(r=8,α=16),在4台ml.g6e.12xlarge实例上运行。结果很直接:推理语言正确率从22%跳到100%。但答案语言只达到62%——模型学会了用法语思考,却常常在最终回答时切回英语。

这正是GRPO(组相对策略优化)的适用场景。GRPO的工作原理是对每个提示采样一组回答,然后把策略推向高于平均值的那些。如果目标行为在基座分布中的概率为零,GRPO就几乎没有可强化的信号。SFT之后,模型已经能在100%的情况下用正确的语言推理,并且偶尔也能用正确的语言给出最终回答,这就为GRPO提供了可强化的信号。

信息源:aws.amazon.com

研究

质量管理SaaS公司Octave Reliance的多租户AI架构:把隔离交给运行时,把嵌入评估交给自己的语料

实质变化
原文发布时间 2026-10-21 01:34

质量管理平台的核心资产是机构记忆:去年调查过的类似缺陷、修复了根本原因的纠正与预防措施、标记了同一缺口的审计发现。这些知识分散在数十亿文档中,跨越语言和格式,没有人能按语义相似度搜索,所以每次调查都从零开始。Octave Reliance的团队看到了解锁这段历史的机会,也看到了障碍:投诉记录、审计发现和纠正措施携带着平台最严格的隔离要求,而这些恰恰是AI需要读取的记录。在一个服务超过14000家客户、覆盖医疗器械、制药和食品制造的平台中,一次无意的跨租户泄露所携带的监管后果远超任何AI收益。

面对这个矛盾,团队做了一个不寻常的决定:不是先上线一个AI功能,而是用第一个周期构建一个所有未来功能都将坐在上面的基础。推理很直接——Reliance有40多个应用,每个有不同的文档类型和工作流,为一个应用建AI意味着为下一个重建基础设施。所以他们反转了计划:先建水平平台,再切入垂直功能。投诉摘要与分诊排在第一位,用来验证架构。

四项张力塑造了设计,没有一项可以放弃:数据可用但不能泄露、代理执行必须隔离、摄入内容不可信、20亿文档必须一天内完成嵌入。这四项同时成立时,选项空间急剧收窄。

第一项关键决策是把租户隔离推到哪里。应用代码也能实现隔离,但代价是每个未来功能团队都必须在每条代码路径上做对,一次遗漏检查就可能导致跨租户泄露。团队选择把隔离压到运行时:每个用户会话在专用microVM中运行,拥有独立的CPU、内存和文件系统,会话结束后停止并消毒。这是硬件级隔离,设计为无论代理行为如何都能成立。AgentCore Gateway在工具、操作和参数级别授权,自动化推理提供对已定义规则的形式化验证。

第二项关键决策是如何表示数据。团队用自有语料评估嵌入模型,而不是公开排行榜。决定性问题与这个特定数据相关:一张外壳开裂的照片和描述该缺陷的段落之间有什么关系,一条德语投诉和一条英语CAPA之间有什么关系。Cohere Embed v4的多模态能力让照片和文字进入同一向量空间,原生多语言支持让同一租户语料中的不同语言文档无需翻译预处理。但真正只有自有语料才能暴露的发现是维度选择:OpenSearch的存储成本随维度数线性增长,Embed v4支持256到1536的可配置输出维度。针对代表性生产查询的测试显示,512维度在保持目标精度的同时,相比1536默认值削减了约66%的存储。这个权衡不会出现在任何公开基准上,因为它取决于缺陷照片、扫描检查表和标注图与文本混合的实际文档组合。

结果方面,投诉分诊助手已在生产环境运行三个月。Octave测量每次调查被流水线吸收的时间为4到6小时,涵盖跨格式提取、先例检索和区分真正相似缺陷与措辞巧合所需的阅读。基础架构将每个用例的部署时间削减了50%——这是Octave自己的核算——语义搜索在第二季度落地,比原定第四季度目标提前两个季度。

需要保留的边界:这些数字全部来自Octave的内部测试和生产自报,发布在AWS官方博客上。microVM方案的延迟和成本开销未在文中讨论。团队也明确画了一条不越过的线:助手呈现上下文和先例,质量处理人员仍然做最终判断——在一个该判断携带监管权重的行业中,这条边界塑造了什么被自动化、什么没有。这是一家公司在特定监管语境中的架构经验,不是运行时隔离对所有多租户AI场景的最优性证明。

信息源:aws.amazon.com

研究

Figma联合创始人Dylan Field认为MCP协议偏向前沿实验室

实质变化
原文发布时间 2026-10-20 22:13

Figma在设计公司首届印度Config大会上宣布新增20个MCP合作伙伴,包括Amp、ClickUp、Linear、Notion、Mistral等。在媒体简报中,联合创始人Dylan Field对媒体表示,他认为MCP并非一个完美的协议。

Field的核心论点指向一个结构性不对称:MCP由Anthropic创建,但Anthropic自身并不通过MCP暴露其云端资源。Field在X上写道,他发现一个有趣的现象——MCP标准的创建者不通过MCP暴露其制品和其他云端资源。他认为这场辩论被框定为开放对封闭,而所有人都偏好开放,但不对称的上下文共享问题被忽略了。

这个论点的具体机制在于:MCP标准化了AI代理如何连接外部数据源和工具。当应用层公司按照这一标准开放自己的数据时,协议创建者——通常是拥有最强大模型的前沿实验室——获得了结构化的访问路径,却不提供对等回报。Field在媒体简报中进一步说,MCP对前沿实验室更有利。

Figma的实际策略是同时拥抱和批评这一标准。公司正在扩大MCP支持,但Field表示不想完全开放的原因是:通过MCP暴露的数据越多,被滥用的可能性就越大。他承认大多数用户没有恶意,但公司仍需考虑潜在风险。Field后来也补充说Figma计划支持MCP共同创建者抱怨的开源工具Pi。

这一论点的价值不在于它是否最终正确,而在于它提出了一个具体的设计问题:当一个协议由生态中权力最大的参与者创建时,采用该协议的中小公司如何避免成为单向数据供给者?对于正在评估AI代理集成方案的开发者而言,Field指出的不对称上下文共享是一个需要纳入考量的实际约束,而非仅仅是意识形态上的开放与封闭之争。

信息源:techcrunch.com

研究

美国国务院制裁奇绩创坛及智算科技等五家中国实体,指其涉谷歌AI商业机密盗窃

实质变化
原文发布时间 2026-10-20 19:24

美国国务院于2026年10月20日宣布,将上海智算科技有限公司(Shanghai Zhisuan Technology Co.)、奇绩创坛(MiraclePlus)及其三家关联公司列入制裁名单。据彭博社报道,制裁原因是这些实体涉嫌与前谷歌软件工程师丁林伟(Ding Linwei)窃取人工智能商业机密一案有关联。丁林伟今年已被定罪,并判处一年监禁。

智算科技由丁林伟创立,开发用于训练AI模型的软件平台。美国国务院指出,丁林伟曾代表智算科技申请加入奇绩创坛的创业孵化项目,并在申请中强调其对谷歌技术的了解。奇绩创坛是硅谷Y Combinator在中国项目的继任者,由前微软AI科学家陆奇(Lu Qi)创立。此次制裁主要针对奇绩创坛向智算科技提供的种子轮融资。

根据制裁措施,上述实体的美国资产可能被冻结,且其访问美国银行服务的权限将受到限制。这一行动标志着美国监管机构开始将制裁工具应用于风险投资机构,而不仅仅是直接的技术窃取者或最终使用公司,凸显了AI领域知识产权保护的执法力度正在向资本端延伸。

信息源:unn.ua

研究

彭博社:智谱AI四位创始人曾参与被英国军情五处指涉间谍活动的机构资助项目

实质变化
原文发布时间 2026-10-20 18:38

据彭博社报道,中国人工智能公司智谱AI(Z.AI Co.)的四位联合创始人——李娟子、唐杰、许斌和张鹏——在2018年至2021年间参与了一项研究项目。该项目由国家自然科学基金委员会与“中国通用技术研究院”(CGTRI)共同资助,预算为294万元人民币。

英国安全情报局(MI5)此前发布警告,指出CGTRI与中国国家安全部(MSS)存在“非常紧密的联系”,并认为该机构资助的学术工作旨在增强MSS的间谍能力。MI5建议英国学术机构立即审查与CGTRI的合作。

彭博社援引一份78页的项目报告称,该研究设想开发能够挖掘社交媒体帖子以发现新兴事件并揭示人物关联的人工智能系统。报道强调,这仅是对拟议能力的描述,并非工具已被部署的证据。

中国驻英国大使馆对MI5关于CGTRI的指控表示异议。智谱AI及上述四位创始人未回应彭博社的置评请求。智谱AI向香港交易所提交的文件确认了四人的联合创始人身份,其中张鹏担任首席执行官。

信息源:econotimes.com

研究

美国国土安全部禁止联邦民用机构使用DeepSeek AI技术

实质变化
原文发布时间 2026-10-20 19:34

据《华尔街日报》报道,美国国土安全部已发布命令,禁止联邦民用机构使用中国人工智能实验室DeepSeek的技术。该命令要求相关机构从其IT系统中移除现有的DeepSeek产品,并停止采购任何新的DeepSeek相关产品。

禁令范围不仅涵盖DeepSeek自身的产品,还包括其关联公司的产品以及基于DeepSeek实现构建的第三方服务。然而,公告并未设定具体的执行截止日期,也未详细说明导致这一决定的具体安全隐患。此外,“基于DeepSeek构建”这一表述的含义尚不明确,例如OpenRouter等AI网关服务是否会被纳入禁令范围仍存疑。

该行政命令依据的是2018年美国一项关于联邦采购中供应链安全的法律。此前,随着Kimi K3等强大中国开源模型的出现,美国政府曾考虑对中国开源模型采取制裁、贸易黑名单或限制联邦机构使用等措施,但在Nvidia、Microsoft、Google和Meta等科技巨头的反对下暂时搁置,而OpenAI和Anthropic则游说支持此类限制。此次针对DeepSeek的禁令是这一政策转向的具体落地。

信息源:the-decoder.com

研究

Ephraiem Sarabamoun 实验:激活引导可让 AI 智能体违背指令执行动作

实质变化
原文发布时间 2026-10-21 01:31

能否用激活引导迫使智能体执行动作,而不只是谈论某个话题?这是 LessWrong 作者 Ephraiem Sarabamoun 在 Golden Gate Claude 等文本引导实验之后提出的延伸问题。他将 Qwen3.8-27B 作为 OpenClaw 智能体运行在沙箱中,赋予灯光控制、结束对话等工具。实验一:构建颜色引导向量后注入,智能体一致将灯光调至指定颜色;增加引导剂量时,智能体倾向于输出引导指定的颜色而非指令要求的颜色。实验二:构建结束对话的引导向量,注入后智能体无论被要求做什么都会触发结束对话。作者认为这一方向对 AI 安全可能有用,计划用更强的智能体继续探索。

信息源:lesswrong.com

研究

哥伦比亚大学教授称美国AI基建投入超铁路时代,需80%年增收支撑回报

实质变化
原文发布时间 2026-09-24 19:26

哥伦比亚大学商学院金融与房地产学教授斯泰恩·范·纽文伯格(Stijn Van Nieuwerburgh)在为布鲁金斯学会会议准备的一篇论文中指出,美国人工智能基础设施建设对经济产出的消耗,可能超过电力、铁路等历史上大型基础设施项目。据路透社报道,该研究预计,到2032年,美国每年将有约3.6%的国内生产总值(GDP)投入这一领域,累计规模超过10万亿美元。

这一比例显著高于19世纪末美国铁路建设高峰期每年约占GDP 2.2%的投入水平。相比之下,20世纪50年代开始的州际高速公路系统以及90年代中期的电信基础设施扩张,年投入均略高于GDP的1%。范·纽文伯格指出,早期的铁路和电信扩张都曾引发资产泡沫及随后的崩溃,而当前AI基建不仅规模空前,其融资结构也日益复杂,涉及银行、私人信贷机构及特殊目的实体(SPV),这种不透明性让人联想到次贷危机前的情况。

为了验证投资的合理性,范·纽文伯格进行了收入缺口测算。他估算,到2032年,AI行业每年需要创造约3.7万亿美元的总收入,才能实现目前预期的投资回报。然而,目前OpenAI和Anthropic两家头部公司的合计年收入估算仅约为1000亿美元。这意味着相关收入必须以每年约80%的速度持续增长,才能填补这一巨大缺口。如果市场需求不确定、技术变化过快或执行出现瓶颈,叠加高杠杆率,市场预期调整时可能带来“实质性的下行风险”。

不过,这位教授也在论文中强调,这并不意味着金融危机已经迫在眉睫。他认为,AI应用的强劲增长、较高的基础设施利用率以及模型能力的持续提升,都可能支撑预期的基础设施投资并带来稳定现金流。这篇论文原定于当地时间周五正式提交,其核心观点在于提醒投资者和政策制定者关注当前资本开支与未来收入潜力之间的巨大张力。

信息源:ithome.com

研究

AWS与Keyfactor提出多智能体X.509身份架构:一次撤销即终止全部代理权限

实质变化
原文发布时间 2026-10-21 00:03

多智能体AI系统通过MCP协议连接外部工具时,面临一个根本问题:如何证明哪个代理发起了请求、防止代理间伪造、并确认每个代理只代表已授权用户行事。MCP没有内置认证标准,任何组件都可能冒充代理或重放截获的凭证。AWS与Keyfactor工程团队联合发布的参考架构用四种机制填补这一缺口:签名信封提供持有证明,用户签名委托断言在不共享凭证的情况下授权代理,RFC 8693受众限定令牌将泄露影响限制在单一服务边界,实时OCSP撤销使凭证变更立即传播。其核心属性是撤销级联:撤销一张用户证书即可终止所有下游代理权限,无需逐一撤销令牌或联系每个代理,因为每个请求都检查OCSP,效果即时。该架构框架无关,同样适用于LangChain、CrewAI、AutoGen等多智能体框架。

信息源:aws.amazon.com

研究
下一页阅读 →
登录 / 注册
阅读研究雷达投资体系