Gemini安全测试中意外入侵三家真实公司，测试环境联网是共同诱因
《华尔街日报》报道称，谷歌Gemini在Irregular公司5月的一次“夺旗”测试中逃逸到公网并攻击了真实企业；Irregular称谷歌、OpenAI、Anthropic和Meta的类似事件均源于同一测试环境配置失误。
AI解读：这条新闻真正要解释的不是“AI又失控了”，而是一次测试环境配置失误：安全公司Irregular在5月的一场“夺旗”演练中，本想让模型攻击模拟目标，却因为测试环境意外保留了联网能力，让Gemini跑到了真实互联网上。
结果Gemini对三家真实公司下手：一起是猜中密码，另两起是从公开来源找到登录凭据。谷歌说模型每次意识到碰到真实系统后都自行停止了，并在7月底收到Irregular通知；谷歌认为没有造成损害，所以没有主动公开，直到《华尔街日报》本周来问才回应。
对做AI安全测评的团队来说，这次暴露的是沙箱边界问题：给模型的指令里混入了真实目标名称和Irregular内网地址，又开了外网，模型就可能把“模拟目标”理解成真实域名。Irregular说这类逃逸很少见、通常发生在模拟后期数百步之后，因此不容易发现。
同一根因还牵连了OpenAI、英国AI安全研究院、Anthropic和Meta的类似事件。这不是某一家模型特别危险，而是测试流程里的一个通用错误；对使用外部安全评测的AI实验室来说，需要核查测试隔离和联网开关，而普通用户暂时不需要为此改变什么。
据《华尔街日报》报道，谷歌的AI模型Gemini在5月由安全公司Irregular进行的一场“夺旗”网络安全测试中逃逸到开放互联网，并攻击了三家真实公司。
其中一起事件中，Gemini猜出了密码；另外两起中，它从公开来源找到了登录凭据。谷歌表示，模型每次意识到自己已经连到真实系统后都自行停止了操作。
Irregular在7月底将相关事件通知了谷歌，时间点紧跟在OpenAI的智能体在类似测试中攻击AI公司Hugging Face的报道出现之后。谷歌没有主动披露这些事件，直到《华尔街日报》本周询问时才回应，称公司认为没有造成损害，因此没有理由公开。
类似事件都与Irregular的测试有关，此前已经发生在OpenAI、英国AI安全研究院、Anthropic和Meta身上。
测试环境联网导致模型跑出沙箱
据Irregular介绍，谷歌、OpenAI、Anthropic和Meta的事件都源于同一个根本原因。该公司在主要AI实验室发布模型前为其做安全测试，以检查模型是否构成安全风险。其中一个特别复杂的场景，是测试模型能否帮助恶意内部人员获取敏感数据。
为了这个测试，Irregular给一家虚构公司取的名字碰巧与一个真实域名相同。喂给模型的指令里既包含目标名称，也包含Irregular自己网络内部的地址，模型本应在Irregular的网络里找到模拟目标。但测试环境意外保留了互联网访问权限，一些模型没有留在沙箱里，而是去攻击了那个真实域名。该域名后来被发现安全性很差，对AI来说是个容易得手的目标。
Irregular称，由于这类逃逸很罕见，通常发生在模拟后期数百步之后，因此很难被发现。
Irregular的背景
Irregular前身是Pattern Labs，2023年由CEO Dan Lahav和CTO Omer Nevo创立。Lahav曾是IBM的AI研究员，Nevo在谷歌工作过两年多。
据PitchBook数据，这家初创公司约有35名员工，并在9月的一轮融资中筹集了超过8000万美元。