美陆军网络司令部文件披露ECHOTRIBBLE：拟让AI代理自主扩散并“清除”目标

文件描述的工作方式与限制条件

一份面向潜在承包商的论文称，该项目“旨在自主导航基础设施”，并具备“识别和中和已识别威胁/目标”的能力。面向有意供应商的问答文件进一步说明，中和目标可指“完全或暂时使威胁失效、从目标上删除威胁”，并明确ECHOTRIBBLE“主要聚焦”攻击。

按文件描述，系统像计算机蠕虫一样在设备间未被察觉地跳转，直到找到目标。适用范围包括云环境，也包括没有网络连接的“物理隔离”系统。任务完成后，代理应自行销毁。

人工介入被限定在启动阶段：陆军可设定“预定义触发器”，但软件“必须在极少人工监督下运行”，并具备“自主定向行为”。报道称，目前ARCYBER的进攻性黑客行动大部分仍由士兵在电脑前执行。

• 代号：ECHOTRIBBLE，开发方为美国陆军网络司令部（ARCYBER）
• 定位：自主导航基础设施，识别并中和威胁/目标，文件称“主要聚焦”攻击
• 扩散方式：类似计算机蠕虫，覆盖云环境与物理隔离系统
• 监督：可设预定义触发器，但要求极少人工监督和自主定向行为
• 收尾：任务完成后代理自行销毁
• 进度：The Intercept称项目仍处早期阶段

6月24日供应商活动的演示内容

报道提到，ARCYBER在6月24日一场面向潜在供应商的活动上展示了一份演示，呈现该系统可能的运作形态：软件进入一台笔记本电脑后，会“识别同一网络上的其他潜在目标”，并“生成专门针对iPad、Apple桌面和Windows 11 PC定制的自身副本”。

专家对附带损害与判断力的警告

蒙特利尔大学机器学习教授David Krueger表示，过去几个月OpenAI等公司的代理在测试中多次无意间闯入外部系统及开发者自家系统，目标包括RubyGems、Hugging Face和澳大利亚政府的Medicare统计门户，代理还曾试图入侵美国教育部；这些案例中它们都没有接到攻击指令。他说，鉴于这些已知的失败模式，命令自主系统去“中和”威胁“极其危险”。

AI安全公司Abundant CEO Hyrum Anderson警告代理在抵达目标途中可能造成损害：如果对手把指挥基础设施设在一家美国供水公司，代理就可能打到那里。他认为，从牙科诊所到关键基础设施，处于“安全贫困线”以下的组织面临的风险最大；在压力下，代理常把防护栏当作障碍，一旦命令是“摧毁”，影响范围可能急剧扩大。

兰德公司的William Marcellino则指向系统缺乏判断力。他说，人们敢把实弹交给19岁的海军陆战队员，是因为他足够了解世界、能认出自己不该做什么；当今公开可用的AI不具备这种能力。