LessWrong作者w_jin：当AI让数十次NotPetya同时发生，保险和现有防御都接不住

w_jin在LessWrong发表的文章中提出了一个核心问题：社会如何应对数十次NotPetya级别的攻击同时打击全球关键基础设施？他认为，这种网络风险特征并非现有网络防御措施所设计的对象，这使现有系统十分脆弱。

他的论证起点是已观察到的能力证据：AI智能体已被用于提高攻击速度和复杂度，自主智能体蜂群已在野外出现，智能体已分别展示了窃取算力和窃取资金的能力，代理蠕虫已被证明可以形成并传播。w_jin认为，随着公开模型的扩散，对关键基础设施、金融机构和普通企业的严重AI驱动攻击将变得可行——即便不是现在，最迟几个月内也会成为现实。

他进一步指出攻击者动机是多元的：从寻求利润的AI赋能个人，到以勒索或战略为目的的国家和网络犯罪组织，再到为完成目标或纯粹通过积累被盗资源进行自我复制的失控智能体本身。

现有各国政府应对网络攻击的框架是为标准事件设计的：受影响组织用自身资源和承包商遏制入侵、恢复服务；联邦机构由相关部门或监管机构监督响应。政府角色是协调遏制，而非直接恢复。即使在最严重的历史黑客事件中，主要责任也在受影响的私营组织。w_jin认为，这种分布式事后响应模式在面对跨行业同时攻击时根本不够用——过去二十年的数字化使几乎所有生活领域都依赖在线服务，一旦大量服务同时变得不安全或不可用，很难找到完全不受影响的方面。

那么能否让市场定价这种风险，由保险公司来吸收？w_jin的判断是不能。原因有三：第一，没有多少保险公司愿意承担可能远超其损失吸收能力、且能轻易跨组织蔓延的风险；第二，即使存在一个较小的灾难性网络安全保险市场，它也会像大流行保险一样极度狭窄和昂贵；第三，保险公司和再保险公司自身也暴露于同类风险，可能因过度集中而拒绝承保。更重要的是，某些影响无法用保险缓解——例如金融机构被入侵后账本记录被污染，恢复黑客攻击前的可信状态是一个技术问题，与是否投保无关。

w_jin提出的结构性替代方案以一条前提为基础：任何可从互联网访问的东西都是潜在不安全的。他设想一个平行世界，那里的网络安全天才们只想尽可能多地造成经济损失，但他们只能接触到我们的互联网系统。策略是尽量减少必须从互联网可达的数据量，并在攻击不可避免地发生时实现隔离和恢复。

具体方案之一是Sheltered Harbor框架——美国政府为金融行业设计的灾难性网络安全恢复机制。其核心是每天将银行全部数据物理复制一份，以写一次读多次格式加密后存入隔离数据保险库。物理副本完全气隙隔离，攻击者无法篡改；即使攻击者突破了数据同步窗口，WORM格式使数据无法被覆写，加密使其无法被读取。

w_jin将讨论推向更一般的层面：现代基础设施通过持续联网获得效率，但这也建立了一个高度互联的相互依赖网络，单个被攻陷的节点可能瘫痪大片服务。他主张重新审视效率与安全的权衡——有些东西根本不需要联网。最简单的例子是智能家居：我们可以用手拉窗帘、开灯，不需要把恒温器接入互联网。法国超市恒温器被攻击的案例说明，将非关键设备离线可以削减攻击面，阻止代理蠕虫复制。

对于确实必须在线的关键基础设施——银行、通信、交通——w_jin认为必须考虑互联网中断时的应急能力。他引用瑞典的离线刷卡安排作为起点：交易保存在终端中直到通信恢复。再进一步，值得探索重新启用传统模拟方法执行关键活动。在政府与民众之间，必须保留一条物理隔离的通信替代通道，以便协调对一切其他事件的响应。

w_jin还讨论了用AI防御AI的可能性。他类比Project Glasswing在发布具备Mythos级网络能力的模型之前主动对选定软件服务进行红队的做法，设想先进AI系统可以在对抗性智能体利用漏洞之前帮助加固在线系统。短期内这对防御恶意人类攻击者有益，但需要政府与实验室密切合作并推动国际共识。不过这一方案有两个问题：一是赋予实验室更大的杠杆，使其能深入了解其他国家的高度机密系统；二是仍然无法应对与红队模型同等先进的模型突破管控、在野外自我复制的场景。