《边际革命》作者Cowen援引安全研究者Saxe分析:网络犯罪劳动力约束解释了AI时代损失未恶化
安全研究者Joshua Saxe建模估计在线犯罪经济约72万人参与、90%从事诈骗呼叫中心,仅约7.6万为黑客且多数隶属政府;犯罪组织受劳动力供给、执法压力和商业模式开发时间线三重约束,AI尚未产生断层式损失增长。Cowen在《边际革命》上推荐此分析。Saxe同时警告'末日将是缓慢移动的',当前是防御者主导的准备窗口。
网络安全损失为何没有因AI而恶化?这是当前AI安全政策讨论中最核心的未解问题。如果AI确实让攻击者如虎添翼,为什么过去几年全球网络犯罪损失没有出现断层式增长?《边际革命》作者Tyler Cowen援引了安全研究者Joshua Saxe的一项分析,给出了一个从劳动力市场出发的解释。
Saxe的建模估计,在线犯罪经济中大约有72万人参与,其中90%从事诈骗和欺诈呼叫中心类操作,部分系人口贩运受害者。在约7.6万名真正的黑客中,绝大多数为政府工作;剩余几千名犯罪黑客中,多数从事勒索软件。这意味着犯罪组织必须扎根于中低收入国家,因为那里可以支付更低的工资,雇用到正式经济中机会有限的人。Saxe写道,AI安全和网络安全领域的人有时把对手想象成自己的'瓦路易吉双胞胎'——隐含的MIT毕业生;实际上,网络犯罪面对的是一个低技能人口群体。
除了劳动力供给,还有执法约束。Saxe指出,犯罪组织越大,吸引的国内和国际执法关注就越多。俄罗斯、白俄罗斯、哥伦比亚和乌克兰虽有法治薄弱的历史,但当犯罪者规模扩大到吸引国际注意时,他们往往在海外度假时被捕。他研究了152个具名犯罪企业的逮捕结果,注明存在幸存者偏差,但绝大多数都遭受了法律后果。
更关键的是商业模式开发的时间尺度。获得初始访问只是网络犯罪工作流的众多步骤之一。在此之前需要搭建和维护攻击基础设施,之后需要横向移动获取数据、勒索受害者、谈判付款、洗钱、将资金转入银行账户,同时规避执法、处理招募和留存。Saxe认为,勒索软件从概念到成为数十亿美元产业花了5到8年;开发以AI为中心的新犯罪商业模式同样需要很长时间。用AI自动化几个步骤是一回事,真正的新商业模式意味着端到端全自动——攻击者部署代理军团处理从入侵到提取洗白资金的全部工作。
此外,AI劳动力目前以溢价购买,从合法模型提供商获得稳定推理访问本身就不可靠。Saxe估计了AI提供商将攻击者踢出平台所需的时间,认为这种中断构成额外的瓶颈。他反问:如果推理接口随时可能被切断,你如何建立一个以AI为核心的犯罪企业?
国家行为体面临不同但同样有效的约束。政府拥有更好的人才和资本获取渠道,但历史上采纳私营部门技术速度很慢。Saxe指出,即便已在使用AI寻找漏洞和开发攻击工具,美国政府的进攻性网络单元不太可能迅速围绕代理自动化完成全面重组。各国政府支付AI网络安全人才的薪资远低于私营部门,美国NSA、以色列8200部队和英国GCHQ的离职者对此深有体会。而全自动代理群攻击一旦造成严重经济破坏,很可能达到物理战争门槛,攻击方将受报复恐惧的威慑。
Saxe本人明确将这篇文章定位为'草图',是未来与同行合作产出更严谨版本的初步尝试。他同时强调,这并不意味着AI永远不会改变网络犯罪格局——'末日,我想,将是缓慢移动的。'他援引历史:2008年读到'加密病毒'书籍时,勒索软件还需5到8年才成为重大威胁;2012年'网络珍珠港'概念流行,但直到2017年NotPetya才出现真正显著扰乱一国经济的国家行为体攻击。他的结论是,风险从业者应当假设这一切终将改变,当前是防御者主导的准备窗口期,时间用于预防。
Cowen在《边际革命》上推荐了Saxe的这篇分析,称其'very good throughout',并补充道'下行也有瓶颈'。