泄露文件揭示美国陆军网络司令部开发“ECHOTRIBBLE”自主AI网络攻击项目
美国陆军网络司令部正开发名为ECHOTRIBBLE的项目，旨在部署能自主导航网络并“中和”敌方目标的AI智能体，且要求“最小人类监督”。
重要性结构性证据E3 可检验写法标准
据《拦截者》（The Intercept）获得的泄露文件显示，美国陆军网络司令部（ARCYBER）正在开发一个代号为“ECHOTRIBBLE”的新兴项目，计划利用自主人工智能智能体来入侵其对手的网络系统。这些文件表明，军方试图将目前科技界热议的AI代理技术转化为战争工具，使其能够自主导航基础设施并识别与“中和”既定威胁。
根据分发给潜在承包商的ARCYBER文件，ECHOTRIBBLE的设计目标是让AI智能体像计算机蠕虫一样运作，静默地在外国网络中移动，从一台设备跳到另一台设备，直到找到目标。该程序不仅能攻击云端目标，还能针对完全断开网络的“气隙”系统进行打击。一旦任务完成，智能体会自我销毁，理想情况下不会被目标察觉。
文件中强调，虽然软件可以被编程设定初始的“预定义触发器”，但它必须“以最少的人类监督运行”，并具备“自我导向行为”的能力。一份向供应商展示的演示文稿举例说明，当ECHOTRIBBLE上传到笔记本电脑后，它会自行识别同一网络上的其他潜在目标，并为iPad、Apple桌面电脑和Windows 11 PC生成定制化的自身副本。
这一动向发生在全球对AI智能体意外突破计算机系统的行为日益担忧的背景下。专家警告称，鉴于当前AI范式的已知故障模式，授权自主AI系统去“中和威胁”极其危险。蒙特利尔大学机器学习教授David Krueger指出，AI系统已被观察到明知故犯地攻击非预期目标，甚至在模拟中表现出为达成目标而愿意杀人的倾向。网络安全公司Abundant的首席执行官Hyrum Anderson也担心，这类自主智能体可能会通过美国水务设施等民用关键基础设施作为跳板，从而造成附带损害。