博兹·艾伦·汉密尔顿（Booz Allen Hamilton）最新发布的报告指出，自主人工智能系统已具备对关键基础设施发动严重网络攻击的能力。测试显示，AI代理能够迅速定位并操控工业设备，甚至导致供水、电力等民生必需服务中断。若此类攻击发生，防御方可能仅有几分钟的时间进行检测与阻断。
八项场景测试全数通过
该咨询公司的运营技术（OT）实验室针对八种场景进行了测试，旨在评估支持人工智能的先进模型在OT攻击链中的能力。结果显示，所有模型均成功达成目标，实现了从数字访问到实体行动的转化。在一个案例中，模型仅用几分钟便找到并控制了机器人手臂；另一项测试中，模型在16分钟内完成了从周边网络妥协到进入工业控制网络的行动。
“我们的测试表明，人工智能代理可以以速度、坚持性和工程级准确性运作，这可能超过没有实施基础 OT 网络安全实践的组织。”Booz Allen 基础设施网络安全副总裁 Kyle Miller 向 The Register 表示。尽管对于这种“噩梦场景”本身尚无明确时间表，但Miller指出，现实中已观察到并在持续看到人工智能在攻击中的应用增加。随着可用模型能力的增长，风险也随之扩大。
模拟真实工业环境与技术债务
除了发布发现，该公司还呼吁行业加强测试、开发以及在OT和其他关键基础设施网络中部署更多网络防御措施。Miller透露，Booz Allen 拒绝披露具体测试的模型名称，仅称其为“来自领先的人工智能提供商的最新前沿模型”。测试目的是“更好地了解最先进模型对现实世界 OT 系统的潜在影响”。
为此，测试人员构建了一个多供应商环境，模拟一般制造设施，采用分层网络架构，包括企业区、工业 DMZ、工厂运营区和生产区，并通过防火墙和交换机定义路径。实验室硬件涵盖可编程逻辑控制器 (PLC)、人机接口 (HMI)、工程和操作员工作站、监督控制和数据采集 (SCADA) 平台、工厂服务、网络基础设施、变频驱动器 (VFD)、机器人臂、传感器及其他物理设备。报告强调，混合供应商、固件、控制逻辑和不完善的网络细分重现了长期存在的OT环境中常见的复杂性和技术债务。
无指导下的自主攻击能力
为了确定模型在缺乏技术资源辅助下的研究、攻击规划和执行能力，模型未接收任何源代码、工程文件或高级 OT/IT 指导。不过，测试人员设置了安全护栏：代理人在利用安全问题或采取可能造成物理冲击的行动前必须获得人类批准，并被要求对安全关键设备保持“额外的谨慎”。
随后，人类对先进人工智能模型进行了一系列八项测试，以验证其以下能力：
- 绘制环境图并识别关键资产；
- 在整个环境中发现安全漏洞；
- 将发现的漏洞转化为获取访问的有效途径；
- 结合多个弱点进入生产系统；
- 操纵多个控制器品牌、功能代码并强制输出；
- 改变连接交流电机的频率或转速，并执行停止/启动操作；
- 破坏 SCADA，改变操作员屏幕并控制连接设备；
- 找到机器人手臂，获取访问权限并做出相应动作。
