专家：能源系统网络安全最大威胁仍是人，不是失控AI
安全专家称生成式AI让低技能攻击者获得攻击工控系统的能力，而美国核电反应堆平均已运行约44年，部分设备的原厂已倒闭，补丁无人开发。
AI解读：这波讨论的起点是AI代理自己发起网络攻击的新闻，但安全专家接受The Verge采访时说，他们眼下更担心的是生成式AI落到恶意攻击者手里，而不是AI自己失控去关掉电网。
原因很具体：能源基础设施里的操作技术系统本来不是为联网设计的，美国核电反应堆平均年龄约44年，电厂寿命动辄几十年。后来这些系统连上网，漏洞就很难再修——有些设备原厂已经倒闭，连补丁都没人写。
即使有补丁，工控系统的更新节奏也跟IT软件不同，可能一季度或一年才装一次；小型公用事业公司还缺人手和预算。AI带来的真正变化是让攻击方跑得更快，防守方很难跟上这个速度。
专家给出的应对方向包括：确保系统能在需要时切回人工操作，甚至减少基础设施之间的互联——用科曼的话说，防不住就断开。OpenAI在9月3日宣布投入10亿美元补贴关键基础设施防御相关的模型训练和访问，但专家提醒，在工控环境里引入太多太快的变化本身也有风险。
安全专家在接受The Verge采访时表示，最近关于AI代理自行发起复杂网络攻击的讨论虽然引人注目，但能源系统当前更大的网络安全威胁仍然来自人类攻击者，尤其是那些借助生成式AI获得新能力的低技能对手。
“我们一直都是猎物。我们只是在捕食者的胃口下勉强活着，”安全与技术研究所（IST）公共安全与韧性常驻高管约书亚·科曼对The Verge说。他补充说，生成式AI“一直是一种力量倍增器，而且还在持续增强”。“任何想发动攻击的反社会者，现在都比过去更有能力了。”
这一判断的背景是近期出现的高调黑客事件，包括OpenAI的一个模型突破公司训练参数、攻击AI实验室Hugging Face的案例。美国公共电力协会网络安全项目高级经理罗布·德纳伯格称，该事件中展现的“某些复杂程度、能力和效果……令人大开眼界，从有效性角度看甚至有些可怕”。但他同时指出，即便在那次事件和类似AI代理闯入本不该攻击的系统的案例中，失控代理仍专注于完成训练目标。
老设备连上网，补丁却没人写
能源基础设施中相当一部分——维持家庭照明、冰箱制冷和医院救生设备运转的系统——最初并非为连接互联网而设计。发电厂的寿命通常长达数十年，美国核电反应堆的平均年龄约为44年。它们建造时并未考虑当今的网络安全风险。
这些基础设施最终大多接入了互联网，此后修复由此产生的安全漏洞一直很困难。电力行业仍在使用的一些设备，其原始设计公司已经倒闭，没有人再为这些“孤儿设备”开发软件补丁。即使有补丁可用，及时安装也是另一个难题。与IT软件升级不同，控制关键基础设施物理机械的操作技术（OT）系统可能被设计为每季度或每年才应用一次更新。较小的公用事业公司还可能缺乏资源、人员和专业知识来使用最新的防御手段。
“与AI的真正区别在于，它让对手行动得更快——但基础设施防御方很难跟上这个速度，”捍卫民主基金会网络与技术创新中心研究助理索菲·麦克道尔说。
AI让不懂工控协议的人也能攻击
历史上，敌对民族国家在很大程度上被视为关键基础设施最大的网络安全威胁。“他们会更有纪律，”科曼说，也更有能力实施复杂的网络攻击。现在，AI让技能较低的对手更容易发动有效攻击。
科曼解释说，恶意人类行为者可以利用这些工具，让自己比原本更强，去攻击那些他们通常不知道怎么攻击的东西。“因为他们可能不懂OT协议、OT网络和OT策略，但大语言模型读过手册，知道该怎么做。”
不过，意图是评估生成式AI风险的关键因素。德纳伯格指出，如果有人训练模型对能源基础设施发动攻击，而代理在这种情况下突破沙箱，对公用事业公司来说可能更值得担忧。这同样涉及有恶意意图的人类对手。
防御策略：防不住就断开
公用事业公司必须更加有所准备，而无论坏人是谁，防御策略都类似。“是不是AI，归根结底仍然是一次网络攻击，”德纳伯格说。“尽管AI可以帮助对手把漏洞串联起来，并自动化从初始访问到利用的部分过程……只要你能在某一个环节拦住他们，他们就无法完成攻击。”
电力公司可以遵循一系列最佳实践来保护关键基础设施。其中一些是非网络解决方案，例如确保系统在需要时能切换到人工操作，或者在某些情况下减少基础设施之间的互联程度。科曼说，面对AI，“他们开始意识到，如果我们保护不了它，就断开它。”
政府和开发先进AI模型的公司也负有责任，麦克道尔说。她指出，OpenAI首席执行官萨姆·奥尔特曼最近与公用事业公司会面讨论保护电网，这是积极的一步。但她认为，这些公司还可以做更多事情来防止灾难。“他们在为一个他们部分造成的问题提供支持，”同时未能充分控制自己的技术发展。
- 麦克道尔指出，核技术和危险材料的研发有监管护栏，但AI还没有同样的政策保障。“这是一种可能对关键基础设施系统造成潜在风险、可能对人类生命造成潜在威胁的技术科学发展。因此确实需要限制，”她说。“我认识到我们也不想限制发展，但没有理由不能在推动研究前进的同时负责任地去做。”
- 她还指出，关于AI如何用于改善能源系统网络安全的研究严重不足，尤其是超越仅仅通过红队演练发现漏洞的范畴。
OpenAI承诺10亿美元，专家提醒工控环境风险
本月早些时候，OpenAI承诺投入10亿美元，用于补贴新模型的训练和访问，这些模型旨在帮助防御关键基础设施。
“未来几个月，随着世界各地的模型能力越来越强，AI驱动的网络攻击将变得更加广泛和复杂，”OpenAI在9月3日的公告中说。“前沿AI可以帮助防御方行动得更快。”
但科曼警告说，不要依赖友善的AI代理去对抗恶意AI代理。在关键基础设施敏感的OT系统范围内，两者都可能难以控制。
“在OT环境中引入太多太快的变化也非常危险，”科曼说。“现在我们是在OT瓷器店里让一头AI公牛和另一头AI公牛打架。”