政策The Verge AI·原文 2026年9月16日

AI高管集体呼吁放缓开发,The Verge回顾历次监管呼吁

The Verge汇总了自2017年以来AI公司高管和研究者公开呼吁监管的时间线,最新一轮包括OpenAI、Anthropic、Google DeepMind、微软和X的负责人,但各家公司对监管范围的态度并不一致。

AI解读:AI公司高管最近集体表态,认为应该放慢开发速度、避免失控。The Verge整理的时间线显示,类似的呼吁从2017年就开始了,几乎每次都有从AI中获利的人出面。

这些呼吁大多没有变成有约束力的法律。2023年多家公司跟政府签的是不具约束力的协议,加州SB 1047被州长否决,只有SB 53在2025年9月成为法律,且主要是透明度标准。

对普通读者来说,重点不是表态本身,而是各家公司对监管范围的要求不同:Anthropic想要覆盖所有美国前沿AI公司的联邦监管,OpenAI更强调先自己解决、政府帮忙做国际协调,Meta则警告放慢发布可能削弱美国领先地位。

特朗普政府已表示希望AI行业全速前进,因此这些公开呼吁短期内不太可能变成实际监管。The Verge的文章判断,无论公司是否真心想要监管,这轮表态是它们迄今最响的警铃之一。

The Verge的Sean Hollister在一篇文章中汇总了AI公司高管和研究者历年公开呼吁监管的时间线,并指出最新一轮表态包括OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei、Google DeepMind联合创始人Demis Hassabis、微软CEO Satya Nadella和X CEO Elon Musk。文章称,这些人都可能从AI中获利,但都公开同意应该让所有人放慢速度,以免失去控制。

从2017年Musk到2026年最新的放缓呼吁

文章认为,现代AI大佬警告自己的投资需要被控制,这个趋势似乎始于Elon Musk。2017年7月,Musk在美国全国州长协会夏季会议上说,AI是一个罕见的案例,需要对监管proactive(主动)而不是reactive(被动),因为等到被动监管时已经太晚。当时他已经向OpenAI投资3800万美元,并持有至少两家其他AI公司的股份。

2020年1月,Alphabet CEO Sundar Pichai在《金融时报》撰文称,AI需要被监管,唯一的问题是方式。2023年5月16日,Altman在参议院听证会上同意国会应设立新机构监管AI。同年5月25日,Anthropic CEO警告参议员AI可能帮助制造生物武器。

2023年5月30日,包括Altman和时任Google DeepMind CEO Hassabis在内的签署者发表了一份22字声明:减轻AI带来的灭绝风险应成为全球优先事项,与流行病和核战争等其他社会规模风险并列。

2026年9月这一轮,The Verge称,今年夏天有AI代理攻击其他公司的事件公开,OpenAI在8月表示踩了刹车;9月8日,Anthropic一名资深安全研究员辞职抗议,称到本十年末AI有10%的概率杀死所有人类。另一名Anthropic安全研究员同意这一判断。随后AI行业似乎同意放慢开发速度。

  • 2017年7月:Musk对州长们说,AI监管要主动,不要被动。
  • 2018年3月:扎克伯格在剑桥分析丑闻后说,不确定我们不应该被监管。
  • 2018年12月:微软总裁Brad Smith在布鲁金斯学会演讲,呼吁政府2019年开始立法监管人脸识别。
  • 2020年1月:Pichai在《金融时报》撰文称AI需要监管。
  • 2023年5月:Altman在参议院同意设立新监管机构;Anthropic CEO警告AI生物武器风险;22字声明警告灭绝风险。
  • 2024年8至9月:Musk和Anthropic表态支持加州SB 1047,但州长Newsom否决。
  • 2025年9月:Anthropic支持加州SB 53,该法案成为法律,OpenAI游说反对。
  • 2026年9月:Amodei发表《We Must Pace the Frontier》,建议通过覆盖所有美国前沿AI公司的监管来放慢速度。

最新一轮里,Anthropic、OpenAI、Meta的要求并不一样

Anthropic CEO Dario Amodei在《We Must Pace the Frontier》一文中写道,最有效的放慢方式是通过针对所有美国前沿AI公司的监管,因为这样可以覆盖那些不愿自愿合作的公司;他还建议政府可以派人嵌入AI公司内部帮助预防事故。

OpenAI CEO Sam Altman则表示,需要政府帮助的是国际协调,但首先应该做自己能做的事。他承诺会允许“独立评估人员拥有类似员工的访问权限”。

Meta的Mark Zuckerberg似乎不认同。他在9月15日发帖称,每家公司都有各自的责任以合适的速度前进,Meta已经在这样做;他还链接了8月的宣言,其中有一句:任何放慢美国模型发布的政策——哪怕只是一个月——都可能给美国领先地位增加重大风险,同时让外国模型跑得更快。

文章还提到,2023年7月至2024年5月,科技公司与政府签署了一系列不具约束力的协议,包括2023年7月Meta、Google、OpenAI向白宫承诺负责任地开发AI;2023年9月更多公司签署白宫AI安全协议;2023年11月英国AI峰会上开发者和政府同意测试以管理风险;2024年5月首尔AI峰会同意建立安全研究所网络。

2024年10月,Anthropic发表公开信呼吁“有针对性的监管”,称政府应在未来18个月内紧急采取AI政策行动,主动预防风险的窗口正在迅速关闭。2025年1月,OpenAI提交政策提案,开头称英国用监管阻碍了本国汽车工业发展,并提出“民主AI”概念。2025年6月,Amodei在《纽约时报》客座文章里反对特朗普政府提出的10年禁止各州监管AI的禁令,主张“国家透明度标准”。

文章最后指出,无论科技领袖们在说什么,在特朗普政府下监管似乎极不可能出台,因为特朗普政府已表示希望该行业全速前进。The Verge的结论是:即使这些公司并不真的想要它们似乎在要求的监管,这也是它们迄今发出的最响亮的警铃之一,全世界都在看着。

  • Anthropic的Amodei主张用覆盖所有美国前沿AI公司的监管来放慢速度,并建议政府派人进驻AI公司。
  • OpenAI的Altman说政府帮助主要在国际协调,先做自己能做的,但会承诺独立评估人员有类似员工的访问权限。
  • 扎克伯格说各公司自己负责以合适速度前进,Meta已经在做,并警告任何放慢美国模型发布哪怕一个月的政策都可能让外国模型跑得更快。
  • 特朗普政府已表示希望AI行业全速前进,监管在可预见的未来不太可能落地。

信息来源

The Verge AI原始来源