前DeepMind公关员工称该实验室曾禁止公开讨论AI灭绝风险
Vishal Maini称,2018至2022年在DeepMind传播与政策团队任职期间,"任何人在组织任何层级都不被允许对外沟通人类灭绝的可能性",研究人员被指示将这类风险斥为危言耸听。
AI解读:这条新闻的核心不是"AI会不会灭绝人类",而是DeepMind曾在公开沟通层面系统性地回避这一话题。Vishal Maini的爆料提供了内部视角:公司内部知道对齐问题没解决、人手远远不够,但对外的口径却是把它比作《终结者》那样的电影情节。
真正受影响的是AI安全研究者、公关从业者和关注AI治理的普通读者。他们能从中看到,一家头部实验室的公开表述与内部认知之间可能存在多大差距,而这种差距正在缩小——Maini给出的理由是"证据如今更难被忽视"。
需要明确的是,这是Maini的个人陈述,来自The Decoder的报道,并非DeepMind官方确认的事实。它说明的是沟通策略层面的历史做法,不构成对当前DeepMind政策的判断。
前Google DeepMind传播与政策团队成员Vishal Maini称,该实验室曾禁止员工对外讨论AI可能导致人类灭绝的风险。据The Decoder报道,Maini于2018年至2022年在该团队任职。
Maini的说法是:"关于人类灭绝可能性的对外沟通,不被允许,由任何人,在组织的任何层级。"他说,研究人员被指导将这类风险斥为危言耸听,把它们比作"《终结者》那样的电影",并转而强调医疗或气候等正面应用。
内部认知与对外口径的差距
Maini称,团队内部清楚AI对齐问题并未解决,且"研究这个问题的人远远不够"。经过数月争取,DeepMind放松了规定:以正面框架呈现的安全内容获得放行,其中包括一篇用友好措辞包装灭绝风险的博客文章。
Maini表示,内部认知与公开信息之间的差距正在缩小,"因为证据如今更难被忽视了"。
报道给出的背景
The Decoder的报道称,Maini的说法出现在越来越多的AI安全研究者公开发声之际,这些人警告未受保护的模型可能促成危险行为,或先进系统可能脱离人类控制。报道提到,DeepMind自身的研究人员也在发声者之列。