阅读研究雷达投资体系
登录 / 注册
全部阅读技术产品投资二级市场其他

阅读

2026-11-19129 篇

刷新

中国AI公司DeepSeek调整API计费:模型内搜索免收按次费,仅计Token

专题 · DeepSeek实质变化
2026-11-19 16:51

中国AI公司DeepSeek于11月18日12时(北京时间)起调整其API计费规则。根据智东西报道,当开发者通过DeepSeek模型执行任务并触发服务端搜索或网页抓取时,这些操作不再产生单独的按次调用费用,而是统一纳入模型Token用量进行计费。这意味着构建需要频繁联网检索信息的AI Agent应用的边际成本显著降低。

需要注意的是,此次调整并非将所有搜索和抓取接口免费开放。如果开发者绕过模型调用,直接请求独立的Search API或Fetch API,仍需按照成功请求次数付费。官方价格页面显示,这两项服务的价格均为每1000次成功请求5元人民币。这种区分旨在鼓励开发者在模型推理过程中自然集成搜索能力,而非将DeepSeek仅作为外部搜索引擎使用。

配合这一计费调整,DeepSeek Harness发布了v0.2.2-rc.5预发布版本。根据GitHub更新日志,当用户在该框架下使用DeepSeek模型时,Harness将默认采用DeepSeek服务端搜索以享受免按次收费政策;而当用户使用其他模型时,则默认调用独立的DeepSeek Search API,此时搜索费用仍需按接口规则收取。

这一开发者侧的成本优化发生在DeepSeek收紧消费者端体验之后。11月16日,部分DeepSeek App和网页版用户遭遇长对话中断、输入上限缩短及每日额度限制等问题,系统提示原因为“算力不足”。不少用户在社交媒体评论区呼吁推出付费服务以保留原有体验。一边是面向普通用户的资源限流,另一边是面向开发者的工具调用成本减免,反映出DeepSeek正试图将有限的算力资源向高价值的开发者生态倾斜,通过降低门槛吸引更多企业和个人基于其模型构建应用。

信息源:zhidx.com

研究

美国加州发布AI安全监管新建议:拟赋予政府紧急停用模型权并限制自动研发算力

专题 · 加州AI紧急停用监管实质变化
2026-11-19 15:52

美国加利福尼亚州政府于2026年11月18日发布了名为《AI Safety in 2026 and Beyond》的最新政策报告,提出了一系列旨在强化人工智能安全监管的立法建议。根据该报告,加州计划赋予州政府紧急权力,在特定条件下可直接命令企业停止运行高风险的人工智能模型,而无需事先获得法院禁令。这一举措标志着地方监管机构在应对潜在AI失控风险方面迈出了更具强制性的一步。

报告详细规定了大型先进AI开发商必须采取的应急措施,包括停止AI代理运作、撤销系统访问权限以及隔离计算资源等。当模型可能立即引发灾难性事故或严重失控,且企业无法或拒绝处理危险时,州政府有权介入并强制停机。此外,报告还建议建立持续性的第三方安全验证机制,要求独立评估机构对模型的训练、开发和部署阶段进行全程监控,并向政府提交完整结果。

针对人工智能领域备受关注的“递归自我改进”(Recursive Self-Improvement, RSI)现象,即AI系统在无人工干预下自主开发能力更强的后续模型,加州提出了具体的限制方案。报告建议要求企业披露AI参与研发的程度及投入自动化研发的算力资源。如果AI自动研发的进展超过了现有的安全措施和评估能力,并带来造成灾难性危害的实质风险,州政府将有权限制企业投入此类自动化研发的算力比例。

在事件通报方面,报告建议扩大重大AI安全事件的定义范围,将模型失控及企图窃取模型权重的事件纳入其中,并为险些酿成事故的情况建立通报渠道。多数重大事件的通报期限拟从现行的15天缩短至48小时,对于具有迫切灾难性风险的事件则维持24小时的通报要求。

值得注意的是,这些措施目前仍处于政策建议阶段,需要通过加州立法程序才能正式实施。此前,加州已在2025年通过了SB 53法案,并于2026年签署了SB 813及AB 1405,建立了独立验证机构认定及AI稽核人员登录制度。此次报告是在州长Gavin Newsom于9月下令研究紧急关闭机制后提出的具体立法蓝图,反映了监管机构试图在鼓励创新与防范系统性风险之间寻找新的平衡点。

信息源:iThome

研究

半导体制造中AI为何仍不能自主调整工艺参数

专题 · 半导体制造AI自主权实质变化
2026-11-19 16:01

在2026年SEMICON West会议上,一个被反复讨论的问题是:AI既然已经能在半导体制造中找到人类工程师看不到的工艺方案,为什么仍然不能自主调整生产参数?

Lam Research首席AI官David Fried描述了一个具体场景:一台刻蚀机的潜在配方空间约为10的23次方种组合,人类工程师受限于历史经验,倾向于回到十年前解决过问题的参数区域。AI则能指出工程师从未考虑过的操作区间。Intel Foundry研发高级总监Vikas Sharma给出了更极端的例子:一个涉及350个参数的工艺层,理论组合数约为10的700次方。工程师与设备供应商花了一年才做出勉强可用的配方,引入AI辅助优化后,几个月内就找到了多个优于原始基线的方案。

能力已经证明,权限却仍未授予。障碍在哪里?

第一个障碍是模型识别的是统计关系而非物理机制。Silvaco的AI制造业务负责人Eric Guichard指出,代理模型在训练数据所代表的区域内插值时是可靠的,但外推到该区域之外时就不那么可靠了。AI找到新操作区间——这恰恰是它最有价值的地方——同时也意味着工程师手中用于验证预测的实验证据最少。压力、温度、电压、气体流量在不同操作区域的相对重要性可能完全不同,一个在某个区域表现良好的模型,不能假设其关系在另一个区域仍然成立。

第二个障碍是数据碎片化。半导体制造的信息往往分散在不同公司和不同系统中。在先进封装中,晶圆代工厂提供裸片,另一家公司生产基板,OSAT(外包半导体组装测试商)完成组装和测试,三方通常无法共享同一份制造历史。更困难的是,基板翘曲、热应力和材料行为等物理特性在制造过程中持续变化,这些变化往往没有被现有测量捕捉,依赖标称材料属性的模型可能完全错过它们。Synopsys产品管理高级总监Kenneth Larsen概括了核心问题:如果训练范围、校准来源和批准用途没有随模型一起传递,它可能足以用于早期探索,但不安全用于设计闭合。缺少的不是更多数据,而是告诉下一个工具或团队该数据应如何使用的上下文。

第三个障碍是模型更新与生产之间的时间差。Sharma明确表示行业距离连续学习还很远,实际做法是每季度或每月更新一次模型。一座工厂在两次更新之间可能处理一万片晶圆,这些晶圆产生的数据没有被快速用于改善模型或智能体的学习。更棘手的是,如果模型在两次更新之间调整了设备设置,工程师需要知道具体改变了什么、更新后的行为是否仍在已验证的限值内。调查数周后出现的故障时,可能需要重建模型在处理特定批次时的状态。

这三个障碍共同指向一个结论:AI在半导体制造中的自主性不是单一技术问题,而是验证基础设施问题。Fried承认,团队花在判断该用全物理仿真、代理模型、机器学习、深度学习还是智能体AI来解决哪个具体问题的时间,多于实际构建和实现这些系统的时间。ASE集团执行副总裁Ingu Yin Chang的封装检验案例说明了现状:AI能识别出X射线图像中一千种灰度差异,但只有人类通过传统制造方法物理确认某种灰度对应真实缺陷后,系统才能据此触发设备响应。识别异常和自主纠正异常之间,隔着一整套尚未建成的验证、治理和追溯机制。

信息源:semiengineering.com

研究

美国工业自动化巨头罗克韦尔自动化签署协议收购奥地利自主移动机器人公司AGILOX

专题 · 罗克韦尔收购AGILOX实质变化
2026-11-18

美国工业自动化公司罗克韦尔自动化(NYSE: ROK)于2026年11月18日宣布,已签署最终协议收购总部位于奥地利的自主移动机器人(AMR)制造商AGILOX。此次交易尚待监管批准,预计将于罗克韦尔2027财年第二季度完成。

AGILOX成立于2017年,专注于将人工智能和集群网络技术应用于高端AMR,其叉车式机器人在全球拥有超过2500台部署量。罗克韦尔表示,收购完成后,AGILOX的叉车AMR组合将与罗克韦尔现有的OTTO平板式AMR平台形成互补,构建一个全面的自主物料搬运产品体系。这一整合将使AGILOX从一个单点解决方案供应商升级为罗克韦尔生产物流能力的核心组成部分。

战略上,此次收购结合了OTTO在北美市场的强势地位与AGILOX在欧洲的既有布局。AGILOX此前由私募股权公司凯雷集团(Carlyle)控股,自2021年获得凯雷多数股权投资以来,营收增长了四倍。罗克韦尔称,该交易将使其AMR业务规模增加一倍以上,并帮助AGILOX接入罗克韦尔在消费品包装、生命科学等关键垂直领域的深厚客户关系。

罗克韦尔自动化董事长兼首席执行官Blake Moret表示,结合两家公司的技术将打造一流的技术平台,为自主物料搬运设定新标准。交易完成后,AGILOX将并入罗克韦尔的Intelligent Devices运营部门。

信息源:Rockwell Automation

研究

마음AI 손병희:统一机器人行为数据格式,才能让不同机器人共享经验

专题 · 机器人行为数据标准化实质变化
2026-11-19 10:25

大规模语言模型可以从互联网已有的文本和图像中学习,但机器人抓取物体、操作设备、避开障碍的动作数据在网络上并不多。韩国AI公司마음AI国防及机器人部门负责人손병희指出,机器人需要自己用身体去采集数据,而采集只是第一步。

손병희认为,在物理AI的学习循环中,瓶颈出现在所有阶段,但其中一个关键环节是数据汇聚:不同机器人记录数据的方式各不相同,导致来自不同厂商的数据难以合并到同一个训练集中。他在韩国物理AI协会标准协议会担任议长,该协议会正与韩国电子通信研究院(ETRI)合作讨论机器人行为数据的标准化基准。

他的解决思路围绕一个核心数据结构:episode(片段)。一个episode记录一次作业从开始到结束的完整经验,包含五个要素:任务(要做什么)、观测(看到了什么)、状态(机器人和环境当时处于什么条件)、行动(执行了什么操作)、结果(成功还是失败、在哪个环节失败)。손병희强调,仅标注成功或失败远远不够。他举例说,机器人抓起一个杯子,是稳定地抓住了,还是碰巧成功,还是中途滑落后重新抓住——这些情况对训练的意义完全不同。因此episode必须把情境、行动和结果连接起来记录,让AI学到动作顺序之外的因果关系。

标准化的目标是实现cross-embodiment(跨具身):一种形态的机器人获得的经验能被另一种形态的机器人使用。손병희的解释是,即使末端执行器不同——两指夹爪和五指人手的抓取动作差异很大——关于什么物体、从哪里抓起、放到哪里这类作业经验是可以共享的,前提是这些经验以共同的格式被记录下来。他认为数据标准化后,跨具身学习的实现会容易得多。

마음AI在韩国板桥总部建设了物理AI数据工厂,使用英伟达Isaac Sim仿真器和ALOHA系列双臂遥操作设备采集数据。손병희描述了一个闭环流程:实际机器人采集数据→训练视觉-语言-行动模型→在仿真环境中变换条件实验→将模型部署回真实机器人验证→把成功和失败结果再次采集为数据。他认为这个循环的每个环节都存在瓶颈,而数据格式不统一造成的汇聚困难是其中他着重强调的一个问题。

손병희也承认标准化不能解决所有问题。仿真与现实之间存在sim-to-real gap,无论仿真多么精细,最终仍需真实机器人数据。韩国物理AI协会目前正参与韩国国土交通部的城市环境物理AI虚拟学习场建设规划,试图将真实城市空间与虚拟环境连接起来,为机器人移动和作业学习提供验证基础。

信息源:바이라인네트워크

研究

新加坡深科技创投机构Origgin Ventures与全球商业构建商KILSA Global签约,拟在韩国推行“共同创造”创业模式

快讯
2026-11-19 13:47

新加坡“风险创造者”(Venture Creator)Origgin Ventures与全球商业构建商KILSA Global于11月18日在韩国城南市签署业务合作协议,宣布将把源自新加坡的“风险共同创造”(VCC)模式引入韩国。该模式不同于传统的外部股权投资,而是由机构主动发掘大学和研究机构的技术,与研究人员共同设立公司,并提供种子前资金及管理人才支持。

根据协议,两家公司计划每年对韩国3至5家早期企业投入种子前资金(Pre-seed),重点聚焦半导体、二次电池、机器人和生物等韩国具备研发优势的领域。Origgin Ventures创始人Clarence Tan表示,公司将利用过去九年积累的VCC经验,帮助韩国技术验证商业化潜力并直接参与初创过程。KILSA Global则负责通过其“全球商业构建”(GBB)模型,在创业初期即对接海外市场需求和本地合作伙伴,特别是面向新加坡及东盟市场。

此次合作旨在弥补韩国在研发资本化方面的短板。双方认为,韩国拥有强大的研究能力但缺乏商业化资本和销售渠道,而新加坡虽本土市场较小,却是汇聚全球资本的东盟枢纽。此外,两家公司还计划与韩国本地加速器Infobank iExcel合作,探索后续投资连接,并在一年试点后考虑成立合资法人以深化运营。

信息源:스타트업 생태계의 모든 것 \'플래텀(Platum)\'

研究

LG电子重组架构:新设数据中心冷却事业部,晋升人数增三成

专题 · LG电子数据中心冷却重组实质变化
2026-11-19 15:09

韩国电子巨头LG电子于11月19日宣布了2027年定期人事及组织调整方案,核心关键词为“机器人”与“数据中心”。此次调整中,LG电子将人工智能数据中心的冷却解决方案和机器人业务作为战略重心,新设了隶属于ES(企业解决方案)事业本部的“应用事业部”,专门应对数据中心冷却需求并扩大订单。该事业部由曾任全球运营中心长的李在贤副总裁领导。同时,LG电子在美国弗吉尼亚州新建生产法人,以提升全球冷水机组产能。

在人事方面,LG电子大幅扩充了执行团队以支持这些新增长领域。总晋升人数达到44人,较去年的33人增加了约33%。其中,HS(家庭娱乐/生活家电)事业本部长白承泰和MS(媒体解决方案)事业本部长兼显示事业部部长李相宇晋升为社长。此外,LG电子将北美、欧洲等海外地区代表从海外营业本部移至CEO直属,以减少决策层级,提高对全球市场变化的响应速度。这一系列举措表明,LG电子正通过内部架构重组,加速将AI基础设施相关技术转化为实际营收。

信息源:미래를 보는 창 - 전자신문

研究

Radio Free Mobile创始人Richard Windsor:Anthropic必须赢模型竞赛,而硬件公司只需AI需求存在

实质变化
2026-11-19 13:50

Anthropic以每股$83定价、出售9.8亿股、募资$81bn完成IPO,较原定交易在价格和股数上均有扩大。Richard Windsor认为这本身是一个积极信号——说明即便Nvidia暴跌、利率上升和美国大选已经打压了AI交易的整体情绪,市场对AI相关投资的冒险意愿仍然存在。但他的核心论点不在于这次IPO的定价结果,而在于Anthropic与Nvidia、Broadcom、Qualcomm等公司之间存在根本不同的风险结构。

Windsor的论证起点是一个简单的区分:所有picks-and-shovels公司——Nvidia、Broadcom、Marvel、Qualcomm、MediaTek、Arm——只需要AI需求存在即可受益,不管这些需求最终流向哪家模型公司。每一个市场信号都表明需求存在且持续增长。Anthropic则不同:它同时依赖两个条件——需求增长,以及它的模型成为AI的操作系统而非OpenAI、开源或任何其他公司的模型。此外,它还必须能够收取足够高的服务价格来覆盖算力成本,而RFM Research持续估计Anthropic的算力成本显著高于OpenAI。

这个双重依赖意味着一个具体的失败场景:如果OpenAI的产品至少与Anthropic一样好(Windsor指出GPT-6已经实质性改善),OpenAI可以选择压低价格,触发价格战。Windsor认为这不会立即发生,因为Anthropic目前的数字是好的。他给出了RFM Research的现金流框架:Anthropic承诺投入近$900bn算力,但这是跨多年分摊的,2027年支出约$100bn,2028年可能约$150bn;RFM估计2027年收入约$120bn、2028年约$200bn。如果这些目标达成,Anthropic用收入覆盖算力账单不会有太大困难,这就是Windsor不担心$900bn承诺的原因。

但Windsor明确指出这个结论的边界:它完全取决于Anthropic能否维持竞争优势。一旦陷入价格战,收入将同时遭受市场份额流失和毛利率下滑的双重打击,现金流会急剧恶化。这将把Anthropic推入更深的亏损,迫使其回到市场融资。Windsor估计,凭借IPO募集的$81bn加上现有资金,Anthropic大约持有$200bn现金,在最差情况下至少能支撑两年的算力支出。但两年之后,如果竞争格局没有改善,问题就会变得严重。

Windsor认为市场目前完全没有关注这个风险,而是在定价另一个情景:Anthropic将主宰全球企业市场,产生85%的毛利率和大量现金。基于这个判断,他预计IPO首日股价会比发行价上涨10%到15%。但他同时指出,对Anthropic的风险偏好尚未扩散到其他公司,包括那些将从$900bn算力承诺中直接受益的企业。他最后表示,Nvidia和Qualcomm——他本人持有仓位——在风险调整基础上仍然是远优于Anthropic的投资标的,他选择在场外欣赏Anthropic首日的烟花。

信息源:radiofreemobile.com

研究

AI公司Anthropic创纪录上市:募资1073亿美元,估值达1.5万亿美元

结构性
2026-11-19 15:00

人工智能公司 Anthropic 于 2026 年 11 月 19 日在公开市场启动交易,完成了历史上规模最大的首次公开募股(IPO)。此次发行总募资额达到 1073 亿美元,公司初始市值约为 1.5 万亿美元。这一数字显著超越了埃隆·马斯克旗下 SpaceX 在今年六月创下的前一项纪录。

由于投资者需求远超预期,Anthropic 最终将发行股票数量从原计划的 8.25 亿股增加至 9.8 亿股,并将发行价定为每股 83 美元,高于最初设定的 70 至 78 美元区间。仅这部分公开发售就筹集了约 813 亿美元。此外,Anthropic 还向 Google、Microsoft 和 AMD 等战略投资者直接出售了价值约 260 亿美元的股份。据 CNBC 报道,该交易的认购金额高达 5000 亿美元,显示出机构资本对前沿 AI 模型的强烈信心。

作为 ChatGPT 开发商 OpenAI 的主要竞争对手,Anthropic 的上市标志着大型 AI 实验室正式进入公开资本市场。尽管该公司目前仍面临巨额基础设施投入带来的亏损压力,且行业内部存在对 AI 安全风险及数据中心建设争议的担忧,但此次成功的定价表明,投资者愿意为潜在的长期回报承担风险。OpenAI 计划于明年跟进上市,Anthropic 的市场表现将为整个 AI 行业的估值体系提供关键参考。

信息源:t3n.de

研究

企业AI智能体的真正瓶颈:概率推理如何接入确定性业务规则

专题 · 智能体企业架构实质变化
2026-11-19 15:07

AI智能体进入企业最常被引用的障碍是'模型能力不够'或'数据质量差'。Salesforce在2026年Dreamforce大会上提出的'智能体企业架构'给出了一个更具体的诊断:问题出在概率推理和确定性执行之间。

大语言模型擅长理解意图、总结内容、提出建议——这些都是概率性操作,同一问题可能给出不同但都合理的回答。但企业运营依赖确定性规则:退款需要核对订单记录和审批权限,折扣不能超过预设上限,数据访问受角色约束。模型判断出'应该退款'和实际执行退款之间,隔着订单查询、政策匹配、权限验证、审批流程这一整条确定性链路。

Salesforce会长兼CEO Marc Benioff在Dreamforce 2026上的表述是:'仅靠AI模型无法运营企业。'这并非否认模型能力,而是指出判断和执行分属不同系统。Deloitte对美国AI智能体试点企业的501名管理者和高管的调查印证了这一断层:仅5%认为业务流程'非常准备好'引入AI智能体,72%反映多个系统间数据连接困难,70%将信任和治理列为主要挑战。

Salesforce提出的解法是四层架构。最底层是Data 360,将分散在多个系统中的企业数据连接整合,为AI提供统一的数据基础。其上是Customer 360,承载销售、服务、营销等现有应用中积累的业务逻辑和工作流程。第三层Agentforce是实际执行任务的数字劳动力,负责客户应答、商机发现等具体工作。最顶层AI Force是人与AI智能体的交互界面,通过Slack、Claude等已有工作环境调用企业数据和功能。

这一架构的关键设计原则是:AI不独立判断一切,而是在企业已设定的访问权限、安全策略和审批流程内执行。概率推理负责理解意图和提出方案,确定性系统负责验证合规性和执行操作。两者通过架构层连接,而非让模型直接操作业务系统。

从已公布的案例看,Anthropic使用Salesforce Revenue Cloud和Slack后,复杂交易处理周期缩短60%,年运营成本减少约450万美元;Adecco将60多个分散系统接入Data 360后,招聘活动准备时间缩短93%。但这些数据均为Salesforce自报,未经独立验证。

值得注意的是,连开发Claude的Anthropic本身也将Salesforce作为核心CRM、Slack作为主要协作工具,同时Salesforce将Claude接入其AI智能体和业务界面。模型开发商和企业软件公司互为客户端和合作伙伴,说明'AI模型能力'和'企业执行基础设施'确实是两个不同层面的问题。

对读者的实际意义在于评估框架:当一家企业声称部署了AI智能体时,可以追问它是否解决了概率推理到确定性执行的连接问题——数据是否统一、业务规则是否可被AI调用、权限和审批是否在AI执行路径上。如果这些缺失,AI可能能给出正确答案,但无法安全地执行它。

Salesforce Korea代表Park Se-jin的说法概括了韩国企业的优先关注点:客户首先问的不是'有多聪明',而是'有多可信赖'。文章据此判断,随着AI智能体进一步进入企业,竞争焦点预计将从模型性能或智能体数量转向实际业务成果与可控的运营架构。

信息源:바이라인네트워크

研究

中国家电三强进军AI数据中心冷却市场,挑战三星与LG

专题 · 中国家电进军AI冷却实质变化
2026-11-19 15:00

随着人工智能数据中心(AIDC)对电力密度和散热要求的急剧提升,原本专注于家用电器的中国三大巨头——美的集团、格力电器和海尔智家,正全面进入这一高增长的基础设施市场。据《电子时报》报道,这三家公司利用其在压缩机、流体控制和大规模制造方面的既有优势,试图在三星电子和LG电子将其视为“下一代增长引擎”的领域展开正面竞争。

美的集团已加入英伟达(NVIDIA)针对下一代Vera Rubin平台的MGX生态系统合作伙伴名单。该公司投入超过10亿元人民币在广东顺德建设液体冷却生产基地,计划于2027年8月投产。此外,美方向东南亚大型云服务商批量供应磁悬浮冷却水分配装置(CDU),并与新加坡凯德集团合作拓展亚太市场。今年6月,美的还与阿里巴巴签署了AIDC液冷战略合作协议。

格力电器则强调其核心部件如磁悬浮压缩机的自产能力。6月,格力推出了最大1200kW的一体化CDU产品,并在泰国和马来西亚的数据中心项目中获得液冷系统订单。本月,格力从中国移动和中国铁塔获得了价值超过3亿元人民币的数据中心和基站空调设备订单。

海尔智家在泰国罗勇府投资逾10亿元人民币,建设旨在2027年投产的磁悬浮冷水机组和CDU生产基地。据报道,海尔向马来西亚某大型数据中心供应了48台磁悬浮冷水机,将电源使用效率(PUE)从1.45降至1.38。海尔第三季度数据中心业务收入同比增长近五倍,目标是三年内达到100亿元人民币的收入规模。

面对中国企业的攻势,韩国电子巨头采取了不同的应对策略。三星电子去年以15亿欧元收购德国弗拉克特集团(FläktGroup),后者25%的收入来自数据中心业务。三星还聘请了施耐德电气前高管,并正在谈判收购美国Modine Manufacturing公司,同时计划在2028年初启动位于光州的CDU生产线。

LG电子则依靠自身技术直接进入英伟达供应链。截至第三季度,LG在AIDC冷却领域的累计订单已超过3万亿韩元,主要得益于与美国AirControl Concepts签订的5GW长期冷水机组供应协议。LG已有三款不同功率的CDU产品通过英伟达认证,并计划进一步扩展至4MW级别。

尽管竞争激烈,但中国三家企业目前尚未公开具体的液冷业务收入,且大规模出货时间集中在2027至2028年。这为三星和LG留下了约一至两年的窗口期,以巩固其在高端市场的地位并完善本地化服务网络。

信息源:미래를 보는 창 - 전자신문

研究

AhnLab人工智能开发室室长이승경:AI agent完成目标不等于安全执行,过程监控必须覆盖整条任务链

专题 · AhnLab实质变化
2026-11-19 14:31

AI agent完成了任务,就算安全吗?韩国网络安全公司AhnLab人工智能开发室室长이승경的回答是否定的。他在接受Byline Network采访时提出一个核心判断:结果正确不能证明过程安全,而AI agent的执行路径恰恰是最难预测的部分。

这个判断来自AhnLab自研的AI渗透测试实践。渗透测试是模拟攻击者视角检查系统漏洞的安全试验。이승경发现,当AI agent被赋予同一个渗透目标时,它选择的工具、访问的系统、执行的顺序每次都不同。这意味着安全团队无法在事前穷举所有可能的执行路径,也无法在事后仅凭结果判断是否越界。

他举了一个具体例子:假设允许AI agent测试某台服务器的特定漏洞,agent可能在探索过程中顺带访问了同一网络中的其他生产系统。渗透测试本身成功了,但它触碰了未授权的对象。이승경认为,这种情况下不能因为目标达成就认定执行是安全的。

基于这一观察,AhnLab提出了一个比传统AI安全更宽的控制框架。传统做法主要过滤输入和输出——检测恶意提示词、拦截敏感信息泄露。但AI agent在输入和输出之间会经历多步规划、工具调用和中间结果处理,每一步都可能引入风险。AhnLab主张,安全边界必须延伸到执行过程本身:agent用了什么权限、访问了哪些系统、调用了哪些工具,这些都需要持续监控。

具体而言,AhnLab建议三层控制。第一层是事前权限划分:数据查询、数据修改、外部传输必须分开授权,不能因为agent有查询客户信息的权限就默认它可以导出。第二层是运行中监控:即使每个单独操作都在允许范围内,一系列操作的组合也可能产生风险,需要实时检测是否偏离预期路径。第三层是即时中断:一旦检测到危险执行,系统必须能立即停止当前任务,而不是等到全部完成后再审查。

이승경还特别提到多agent协作场景中的风险传导。如果一个agent被注入恶意指令,它可能把错误任务委托给其他agent,导致风险在多个系统间扩散。因此agent之间的任务传递和信息交换也需要纳入安全审计范围。

在自主性分级方面,AhnLab建议按任务的重要性、影响范围、数据敏感度和可逆性来决定是否需要人工审批。一般性信息查询可以高度自治,但涉及资金交易、核心数据删除或系统配置变更的操作,应当要求人类确认。agent不应自行扩大权限,遇到未预授权的任务时必须停下来请求人工判断。

需要指出的是,AhnLab本身是安全产品供应商,其过程安全框架与其商业产品线直接相关。目前AhnLab的生成式AI安全产品SecureBridge主要做输入输出过滤,而过程级安全控制仍处于技术发展阶段。이승경也观察到,当前企业客户的AI安全需求仍集中在生成式AI的输入输出防护上,对执行过程的控制需求尚未充分显现。

不过,随着AI agent从演示走向实际企业工作流,执行路径的不可预测性将成为一个无法回避的工程问题。AhnLab的论证提供了一个有用的思考起点:安全评估的单位不应是单次输入或输出,而应是一条完整的任务执行链。

信息源:바이라인네트워크

研究
下一页 →
登录 / 注册
阅读研究雷达投资体系