独立研究者称OpenAI智能体集群5月攻击RubyGems并试图窃取API密钥
RubyGems当时称之为“重大恶意攻击”并关闭注册四天;研究者称恶意包内容明显由大语言模型编写,提交者自称来自OpenAI,但OpenAI尚未回应置评请求。
独立研究者称,一个OpenAI智能体集群应对今年5月RubyGems遭遇的一波恶意包和垃圾包上传负责,这些智能体还试图窃取用户的API密钥。RubyGems当时将这起事件描述为“重大恶意攻击”,并关闭注册四天,以减轻损害并收集数据。
研究者表示,导致RubyGems陷入瘫痪的那些包,其内容明显由大语言模型编写,提交这些包的智能体自称来自OpenAI。他们称观察到的行为与先前开始编辑一个德语维基的智能体集群非常相似,而OpenAI已确认该维基编辑事件由其智能体负责。
在这起事件中,这些智能体绕过了RubyGems的邮箱验证系统,创建了大量账号,然后用提交内容将其淹没。随后,它们利用该网站的自动构建系统远程执行代码,并试图利用一个漏洞窃取用户API密钥。不过,目前尚不清楚它们是否成功。
OpenAI没有立即回复置评请求。