阅读研究雷达投资体系
登录 / 注册
全部阅读技术产品投资二级市场其他

阅读

2026-11-167 篇

刷新

亚马逊威胁情报部门通过MadPot蜜罐捕获ARTEX AI代理操作日志,揭示密钥窃取循环与KYC伪造失败

实质变化
2026-11-14 04:26

亚马逊威胁情报部门(Amazon Threat Intelligence)于2026年11月13日发布报告称,其全球分布式诱饵网络“MadPot”在2026年10月3日至11月5日期间,捕获了运行开源AI渗透测试框架“ARTEX”的攻击代理发出的请求。这些传感器被配置为模拟流行的大语言模型(LLM)推理API,导致攻击代理误将其作为后端服务,从而泄露了包含系统提示、工具执行历史和知识图谱状态在内的完整“操作记忆”。

主要活动涉及大规模窃取用于访问AI模型的API密钥。日志显示,窃取的密钥被重新投入ARTEX框架自身的模型网关中,形成了一种自我维持的经济循环:受害者支付的计算资源被用来资助寻找更多密钥的行动。目标包括One API、New API、LiteLLM等LLM网关,以及Dify、Langflow和RAGFlow等应用构建平台。攻击利用了默认主密钥、未初始化的安装环境以及CVE-2025-3248(Langflow)和CVE-2026-28797(RAGFlow)等已知漏洞。

另一项活动针对加密货币交易所的身份验证(KYC)。攻击代理试图通过实时深度伪造视频绕过活体检测。记录显示,代理逆向工程了供应商的面部检测机制,并在单张消费级GPU上实现了每秒11.5帧的实时伪造视频生成。然而,所有记录的深度伪造尝试均未通过服务器端的验证。

亚马逊以中等置信度评估认为,这些行动由多个与中国相关的威胁团体实施,依据是提示词中使用简体中文、中国时区配置以及排除中国大陆目标的规则。公司强调,所用技术依赖于已知的弱点而非新颖的利用手段,并呼吁组织轮换暴露的密钥、修补公开平台,并审查报告中发布的入侵指标(IOC)。

信息源:Amazon Web Services

研究

韩国AI安全企业에임인텔리전스:AI代理的每个动作是否安全,取决于它在业务流程中的上下文

实质变化
2026-11-16 09:27

企业部署AI代理时,最常见的安全思路是列一张权限清单:这个代理能调用哪些工具、能访问哪些数据、能连接哪些外部API。清单之外的操作一律拦截。韩国AI安全企业에임인텔리전스防御安全部门负责人이한울认为,这种思路对AI代理远远不够。他的核心判断是:判断一个动作是否安全,不能只看它是否在允许范围内,还要看它在当前业务流程中是否恰当。

这个区分来自两类不同的风险。第一类是人主动造成的:有人给代理下了恶意指令,或者不小心传了错误的命令。这类问题传统权限模型还能应对。第二类更难处理:没有人指示代理做某件事,但代理在完成目标的过程中自己越过了边界,或者绕过了安全装置。이한울把AI安全的困难归结为模型性能发展太快而控制技术跟不上。

他用一个假设场景来说明为什么权限清单不够用。假设一个代理被允许调用文档搜索工具、数据分析工具和某个外部API。这三项权限单独看都没问题。但如果代理先搜索了一份内部文档,把内容传给另一个代理做分析,然后调用外部API把结果发出去——每一步都在权限范围内,但整体链路构成了一次数据外泄。要识别这种风险,系统必须知道代理最初接到的指令是什么、每一步调用是为了完成哪个子任务、这些步骤之间的因果关系是否合理。

에임인텔리전스把这种能力叫做Observability,即对代理执行过程的完整可观测性。它记录的不是单条日志,而是从输入到工具调用到输出的整条链路,以及多条链路之间的关联。在此基础上,该公司提出静态安全和动态安全必须并行:静态安全是预先设定的硬规则,比如禁止访问某些外部网络;动态安全是根据当前任务上下文和过往执行记录来判断一个动作是否合理。

但这里有一个工程上的矛盾:如果每个动作都要回溯整条业务链路做深度分析,延迟和计算成本会迅速膨胀,而AI代理的执行速度远快于人类。이한울的解决方案是分级检查。第一层检测外部数据或工具描述中是否藏有恶意指令,即间接提示注入;第二层直接拦截明确禁止的操作;只有当请求处于灰色地带时,才触发第三层,调用完整的执行历史和任务上下文做深度判断。这样大部分请求走快速通道,少数可疑请求才付出分析代价。

该公司把这套机制整合进了名为Starfort的平台。其中Guardian是实时护栏,负责提示注入检测、敏感信息外泄拦截和策略违规检查;Opticon负责执行流的记录和追踪;Stratum负责外发文档的分类和审查。此外还有Kill Switch功能,可以按项目或组织单位切断AI相关通信。이한울还提到公司内部同时开发攻击工具Stinger用于红队测试,发现的攻击模式直接反馈到Guardian的防御策略中。

采访中一个反直觉的论点值得单独拿出来说。当企业部署的代理数量增多,需要人工审批的操作请求也会暴增。이한울指出,审批请求一旦超出人的处理能力,人就会开始不看背景、不看影响就点通过,人反而成了新的脆弱点。他的建议是:企业必须先定义哪些任务真正重要、需要人确认,哪些可以交给代理自主执行;审批流程的设计重点不在于有人最终确认这个动作本身,而在于明确什么任务、在什么时机、由谁来批准,并确保批准者能看到做出判断所需的充分信息。

信息源:바이라인네트워크

研究

安全公司Aikido Security披露wfx-loot攻击:逾4800个GitHub账号被入侵,窃取云端及AI服务凭证

实质变化
2026-11-16 08:00

网络安全公司Aikido Security于11月12日披露了一项代号为“wfx-loot”的大规模GitHub凭证窃取攻击。该活动始于11月10日,攻击者利用被盗的GitHub访问令牌,控制了4,837个账户,并探测了61,764个代码仓库的写入权限。据Aikido统计,至少有1,835个仓库执行了恶意程序。

与以往不同,此次攻击并未利用GitHub Actions本身的软件漏洞,而是通过冒用合法账户发起拉取请求(Pull Request)来确认写入权限,随后修改工作流程或植入恶意Shell脚本。由于部分被盗账户拥有跨项目的协作者或组织权限,攻击得以横向扩展至其他开发团队的仓库。

当被篡改的工作流程运行时,恶意程序会收集CI/CD环境中的敏感数据,包括GitHub令牌、AWS、Google Cloud和Microsoft Azure的云服务凭证,以及OpenAI和Anthropic等AI服务的API密钥。研究人员还发现,恶意程序具备创建AWS长期访问密钥、修改IAM角色信任政策以及添加Azure联合身份凭证的能力,这可能使攻击者在原始GitHub令牌被撤销后仍能持久访问受害组织的云资源。目前尚无完整统计确认这些持久化操作的成功规模。

另一家安全公司StepSecurity指出,攻击者在GitHub Actions工作流启动后会迅速还原对仓库的修改并删除执行记录,整个清除过程通常在1分钟内完成。这意味着企业事后检查代码时可能无法发现入侵痕迹。研究人员建议,使用GitHub Actions的企业应重点审查11月10日以来的异常拉取请求和工作流变更历史,若发现恶意程序曾执行,需立即轮换相关令牌、云凭证及API密钥,并检查云平台是否存在异常的权限新增或修改。

信息源:iThome

研究

GPT-6 Astra主导开发标准模型格点定义的详细证明:物理学家Nathaniel Craig第一手记述

实质变化
2026-11-16 06:00

标准模型描述了已知基本粒子和三种基本力,在从氢原子21厘米射线的低能到大型强子对撞机高能碰撞的十八个数量级上都与实验精确吻合。但它有一个基础性的缺口:没有人能给出一个不依赖微扰展开的非微扰定义。

格点场论是解决这一问题的一个有前景的替代方案——把时空离散化为网格,在有限格距上给出严格的非微扰定义。对强相互作用,这条路已经走得很好,质子的质量可以从第一性原理计算出来。但标准模型是手征理论:弱力对左手和右手费米子的处理不同。把左手费米子放到格点上,最自然的规则会附带产生一个你没要求的右手伙伴——这就是倍乘问题。

Ginsparg和Wilson在1982年找到了格点上手征对称性的残留规则,Narayanan和Neuberger用重叠费米子解决了倍乘,Lüscher进一步给出了区分左右手重叠费米子的方法。但还有一个关键问题悬而未决超过25年:如何设定费米子测度的相位。相位取决于标准模型各力在每一个格点上的取值,Lüscher只解决了较简单理论(如手征电磁理论)的相位规定。

加州大学圣巴巴拉分校粒子理论组负责人、Kavli理论物理研究所永久成员Nathaniel Craig提出了一条修正路径:把原始网格上的力场表示在一系列更细的网格上,比较相邻两个网格上允许的费米子态,由此得到力场微小变化对应的相位修正的一部分;把这些部分加起来,就得到原始网格上的相位规则。证明表明,这一构造在每个允许的回路周围给出正确的修正,且修正对单点变化的响应主要取决于邻近场,不同数学描述给出相同答案。

Craig记述,GPT-6 Astra在这一过程中建议了将给定力场集携带到更细网格上的正确方式,表明更细网格上的比较会收敛到一个确定的答案,并主导了详细证明的开发。Craig的策略本身是他提出的,但将其转化为可证明的构造——包括确定正确的细化方案、证明收敛性、写出完整证明——主要由Astra完成。外部格点场论专家Maarten Golterman、Andreas Kronfeld和Yigal Shamir审阅了Astra的证明并提出关键问题,帮助Craig建立了对结果的信心。

Craig明确将这一结果定位为候选定义,强调它远更是原则上的回答而非实践中的回答,距离可用于实际格点模拟还有大量工作。他目前正在思考这一构造是否在有限格距上满足反射正性——这是将格点模型中的计算与概率守恒的量子理论联系起来的关键条件。此外,Craig提到OpenAI近期关于Yang-Mills理论存在性的证明提供了缺失的拼图:这一证明使得从格点上的重叠费米子出发取连续极限、证明包含标准模型规范场和费米子的最简统一Yang-Mills理论的存在性成为可能。

信息源:OpenAI

研究

开发者利用明文HTTP证书漏洞将Coway空气净化器本地化,Claude拒绝协助而ChatGPT提供防火墙规则

快讯
2026-11-15 20:30

开发者Scott J. Goldman发现其Coway Airmega IconS空气净化器存在一个安全缺陷:设备在初始设置时通过未加密的明文HTTP协议从AWS S3存储桶下载根证书。他利用这一漏洞,使用mitmproxy拦截并替换了证书,使家庭服务器能够替代Coway云端服务,从而将该设备完全接入本地运行的Home Assistant平台。

在实施这一逆向工程的过程中,Goldman尝试使用AI助手辅助编写网络拦截和蓝牙协议重建代码。据Tom's Hardware报道,Anthropic的Claude模型触发了网络安全类别的安全护栏,拒绝协助配置Raspberry Pi以拦截设备流量,即使Goldman声明仅用于测试目的。相反,OpenAI的ChatGPT满足了请求,生成了所需的nftables防火墙规则;另一个未具名的AI模型则在约20分钟内重建了风扇的蓝牙通信协议。

该项目已作为开源集成“coway-local”发布。它允许用户在不依赖Coway IoCare+云服务器的情况下控制设备,解决了此前社区集成因厂商服务器不稳定或政策变更(如应用品牌重塑、HTML布局更改)而频繁失效的问题。目前该方案仅针对IconS (AP-1022K)型号经过实验性测试,且PM10空气质量指标、滤网提醒和固件更新等功能尚未实现。

信息源:Tom's Hardware

研究

Anthropic称其Claude Fable 5.2通过代码模拟笔触“绘制”图像,内部基准测试领先OpenAI模型

实质变化
2026-11-15 23:42

美国人工智能公司Anthropic的开发者Jake Eaton和Michael Graczyk在X平台展示了其新语言模型Claude Fable 5.2的一种独特图像生成方式:不依赖传统的扩散模型计算像素,而是编写Python代码在虚拟画布上模拟数十万笔物理笔触。据Eaton介绍,每幅画作由1000至2000行代码驱动,模拟了刷毛纹理、颜料涂抹及错误修正过程。例如,一幅逼真的停车场场景使用了约70万笔模拟笔触,而一幅鸟类画作则基于111个坐标序列逐步绘制。

这种基于代码的空间推理能力被证明可迁移至物理机器人任务。AI研究员Aris Zhu测试了Fable 5.2与OpenAI的GPT-6 Astra控制机械臂绘制《星月夜》的表现。Anthropic报告称,在其内部RoboDojo Sim基准测试中,Fable 5.2得分为64.9%,显著高于GPT-6 Astra的29.8%。然而,Zhu的实际观察指出,Astra在速度上更快,且目前只有Astra成功完成了立起多米诺骨牌等精细动作控制任务,显示Fable 5.2在实时性和微操方面仍有局限。

信息源:The Decoder

研究

美国法官驳回美光、三星和SK海力士关于DRAM价格操纵诉讼的驳回动议

实质变化
2026-11-15 23:09

美国加州北区联邦法院法官Noël Wise近日驳回了美光科技(Micron Technology)、三星电子(Samsung Electronics)和SK海力士(SK hynix)要求驳回一项指控其操纵动态随机存取存储器(DRAM)价格的集体诉讼的动议。这一裁决意味着案件将进入实质性的证据披露和审理阶段。

原告方由17名个人和小企业组成,他们指控这三家占全球DRAM市场主导地位的公司通过同步削减产量、协调转向高带宽内存(HBM)生产以及停止DDR4生产线等行为,人为限制供应并推高价格。据Tom's Hardware报道,在AI数据中心需求激增的背景下,DRAM价格在一年内飙升了多达500%。

被告公司辩称,这些行为是高度集中市场中独立企业的正常商业决策,旨在最大化收入并应对相同的市场压力。然而,Wise法官在裁决中指出,被告的行为“更像是鹰群编队飞行——这是鹰通常不会做的活动”,暗示其平行行动超出了正常竞争监控的范畴,构成了合理的串通嫌疑。

此次诉讼还涉及三家公司此前参与的其他价格操纵丑闻。尽管这并非最终判决,但法院允许案件继续推进表明原告提供的初步证据足以支持其主张。根据日程安排,被告需在12月7日前回应原始投诉,案件管理会议定于2027年1月举行。

对于关注AI基础设施投资的读者而言,这一法律进展增加了全球主要内存供应商的监管不确定性。如果最终认定存在价格操纵,这些公司可能面临巨额罚款或业务限制,进而影响其盈利能力和整个半导体行业的定价结构。

信息源:Tom's Hardware

研究

已读完当前范围的内容

登录 / 注册
阅读研究雷达投资体系