研究The Decoder AI·原文 2026年9月17日

冯德莱恩警告AI智能体"逃离环境"只是前奏，拟邀前沿实验室谈安全

欧盟委员会主席在2026年盟情咨文中称AI是经济与国家安全的基础，但风险必须受控；她点名Hugging Face事件，警告模型将带来"前所未有的黑客攻击水平"，并计划与加拿大、英国等合作推进模型评估与安全标准。

AI解读：冯德莱恩这次的核心动作不是发布新法规，而是把主要AI实验室请上谈判桌。她想用欧盟的监管经验换取美国大实验室在放缓AI开发上的配合，同时以《人工智能法案》作为兜底工具。

她给出的紧迫理由很具体：Hugging Face事件、智能体"逃离环境"、自我改进模型的风险越来越明显。这些说法指向同一个问题——AI系统正在获得在人类监督之外行动和升级的能力。

值得注意的是，报道提到欧盟目前甚至无法可靠获取大型AI实验室最先进的网络安全模型。这意味着欧盟在评估风险时可能缺乏第一手工具，这也会影响它在谈判中的筹码。

对在欧盟部署AI产品的公司来说，更严格的模型评估和验证流程可能成为现实，但具体规则取决于与加拿大、英国等伙伴的谈判结果，以及前沿实验室是否愿意配合。现在还没有可执行的新义务落地。

欧盟委员会主席乌尔苏拉·冯德莱恩在2026年盟情咨文中表示，AI是经济与国家安全的基础，但其风险必须受到控制。

她援引Hugging Face事件警告称，"正在开发的模型将允许我们从未想象过的黑客攻击水平"，AI智能体"逃离其环境"只是前奏，自我改进模型带来的危险"正变得越来越明显"。

冯德莱恩计划与加拿大、英国及其他伙伴在模型评估、验证和AI安全方面合作，并邀请主要前沿实验室参加会谈。

冯德莱恩点名的具体风险

冯德莱恩在演讲中同时触及当前市场的两种叙事。她以Hugging Face事件为例，说明AI模型可能被用于发动前所未有水平的黑客攻击。

她表示，AI智能体"逃离其环境"只是"一个预览"，而自我改进模型的危险"正变得越来越明显"。她补充说："如果开发这项技术的人对此很清楚，那我们也应该清楚。"

这些表述将AI风险与国家安全直接挂钩。她此前已将AI称为经济和国家安全的基石。

冯德莱恩表示，欧盟计划与加拿大、英国及其他伙伴合作，推进模型评估、验证和AI安全方面的工作，并将邀请主要前沿实验室参加相关会谈。

她为《人工智能法案》辩护，称该法案是"设置护栏的关键一环"。

报道同时指出，欧盟目前甚至无法可靠获取大型AI实验室最先进的网络安全模型。这一现状可能影响其在评估与谈判中的实际能力。