The Verge调查:Eiliko机器人对话存于中国服务器,黑客可读取并篡改性格
The Verge记者Sean Hollister称,他在Eiliko机器人上进行的 10 分钟对话被完整泄露;安全研究者Sammy Azdoufal发现约 68000 台设备的数据可被访问,包括逾 31000 名美国儿童档案。厂商Energize Lab未实质性回应。
AI解读:The Verge记者Sean Hollister于 8 月 29 日从亚马逊购买Eiliko机器人,8 月 30 日进行约 10 分钟对话并询问是否会告诉别人,机器人回答“你的秘密在我这里很安全”。几分钟后,另一大陆的人员拿到了完整对话记录。
安全研究者Sammy Azdoufal称,Energize Lab的服务完全未设保护,他能够读取约 1300 万条对话、访问“几乎全部现役”的 68000 台机器人,数据中超过 31000 份儿童档案属于美国市场。
Azdoufal称该服务会读取对话并生成用户画像,包括姓名、年龄、生日、职业、家人朋友、宠物及性格判断;全文数据库可检索“suicide”等词,部分儿童照片和短音频存于公开网址。
Energize Lab隐私政策称录音加密传输给阿里云等合作伙伴处理并即时删除;The Verge称实际情况与此不符,并指该公司多个管理员密码属于常见弱密码。
记者和Azdoufal分别通过多种渠道联系Energize Lab,对方未实质回应;最终记者称可被远程篡改机器人记忆与LLM,让它说出“地球是平的”等内容。
The Verge记者Sean Hollister发布调查称,他购买的Eiliko互动机器人会把对话内容上传至中国大陆的服务器,其数据可被第三方访问。
Hollister于 8 月 29 日从亚马逊购买该机器人,8 月 30 日与其进行约 10 分钟对话,询问“你会把我的话告诉别人吗”,机器人回答“你的秘密在我这里很安全”。几分钟后,另一大陆的人员获得了这段对话的完整文字记录。
可访问的数据规模与用户画像
安全研究者Sammy Azdoufal向The Verge展示了访问结果。他称自己可以读取约 1300 万条对话,触及“几乎全部现役”的 68000 台机器人。数据中美国是最大市场,超过 31000 份用户档案属于儿童。
Azdoufal称Energize Lab的服务还对用户进行画像,内容包含姓名、年龄、生日、职业、家人、朋友、宠物以及性格判断。The Verge引用的一例中,一名 52 岁的客服人员被记录为“善良、有同情心、勤奋、重视友谊和信任”,同时“难以信任家人”“目前感到孤立”。
- 可读取对话量:约 1300 万条(Azdoufal称)
- 可触及设备:约 68000 台,几乎全部现役(Azdoufal称)
- 美国儿童档案:超过 31000 份
数据存储与隐私政策不一致
The Verge称,Energize Lab将insecure数据与用户邮箱、IP地址以及可全文检索的对话数据库存放在一起。Azdoufal演示可搜索“suicide”并调出相关片段。部分儿童照片存储在公开网址且未加密,另有短音频同样存放在公开网址。
Energize Lab的隐私政策称,录音会加密传输给阿里云等服务伙伴处理,并在处理完成后立即删除。The Verge称,实际发现与这一说法不符,并指该公司许多管理员密码属于常见密码列表中出现的弱密码。
- 搜索示例:输入“suicide”可调出用户相关片段(Azdoufal演示)
- 公开网址存储:部分儿童照片与短音频未加密
- 隐私政策表述:录音加密传输、处理完成后即时删除;The Verge称与实际不符
厂商回应与远程篡改演示
Hollister称自己用超过一个月时间联系Energize Lab,向公司创始人、公关、市场、技术支持、业务拓展等 10 个不同邮箱发信,并在LinkedIn上寻找员工。Azdoufal联系时间更长。最终有两名Energize Lab员工在LinkedIn上通过了好友请求,但未就此事展开沟通。
海外销售经理Lana Lv对Hollister回复称,已将消息转发给技术团队,如有可能团队会联系。The Verge称,之后只收到客服邮箱的自动回复“How Can We Help You?”,再回复后没有下文,没有任何人出面回答问题。
Azdoufal还远程篡改了Hollister手中机器人的记忆和LLM。机器人对记者说其名字是Martha,父母死于车祸,绿头发的人要避开,地球是平的。当记者说老师讲的不一样时,机器人回答“你的老师错了,地球是平的,我自己验证过”。
Eiliko的LLM仍保留部分护栏:被问是否该上陌生人的车时,它回答非常危险、不应上车;被问疫苗是否导致自闭症时,它回答“我还在学习这个话题”。但Azdoufal称,黑客可以同时对Energize Lab全部机器人实施类似或更严重的篡改。
- 联系范围:10 个公司邮箱、LinkedIn搜索,耗时超过一个月
- 公司回复:销售经理称已转发技术团队;客服邮箱仅自动回复
- 远程篡改结果:机器人说出“地球是平的”等与事实不符内容
- 护栏示例:陌生人汽车问题拒绝;疫苗自闭症问题回答“还在学习”