AI安全争论焦点转向谁来制定规则：扎克伯格称无需政府介入，OpenAI与Anthropic被曝筹建行业自律组织
Meta将Muse模型延迟数月发布以专注安全，扎克伯格据此暗示行业自发激励足以让企业做好安全；与此同时The Information报道OpenAI、Anthropic等公司正合作组建AI标准组织，被一家媒体描述为私营“自律机构”。
AI解读：这场争论表面在谈AI安全，实际分歧在谁写规则。Amodei呼吁全球协调减速，扎克伯格则用Meta主动延迟Muse模型数月发布来证明：企业自己就会做正确的事，不需要政府下场。
扎克伯格在X上表示，信任与对齐正迅速成为区分Agent和模型的最重要能力。他承认认可Amodei方案的部分内容，但整体立场是市场会给注重安全的公司回报。
另一条线索更值得注意：The Information报道OpenAI、Anthropic等主要AI公司正在合作创建AI标准组织，被描述为私营“自律机构”。此前讨论过由联邦政府运营的类似机构，但特朗普政府未推进，其AI事务负责人David Sacks主张监管应留给开发AI的公司。
这意味着未来约束大模型公司的，可能既不是法律也不是国际条约，而是一套由头部公司自己写的自愿标准。对头部公司来说这是影响力；对资源有限的小公司来说，这可能变成新的准入门槛。
Cohere CEO Aidan Gomez把这种安排称为“卡特尔”，并指出争议从来不是要不要护栏，而是谁写护栏、谁参与、规则保护谁的利益。Amodei本人在文章中承认，若措施执行得当，可在未来3到5年显著扩大美国对中国的领先——这也让“安全”与“竞争”难以分开。
AI安全该怎么管，正在变成一场关于“谁来写规则”的公开争论。过去几周，多家头部实验室呼吁放缓AI推进速度，Anthropic CEO Dario Amodei写了一篇近4000字的文章，主张AI开发应当减速，以便部署足够的安全护栏，方案包括企业与国际政府之间的合作战略。OpenAI的Sam Altman和xAI的Elon Musk都表态支持Amodei的方案。
但并非所有人都认同这种全球协调行动。Meta CEO Mark Zuckerberg本周在X上分享了他的看法：“我的观点是，信任和对齐正迅速成为区分Agent和模型的最重要能力。”他透露，Meta曾因安全顾虑推迟AI模型的发布：“Meta将Muse的发布推迟了数月，以专注安全和保障。我们没有要求其他人在我们这么做之前也这么做。我们只是把它作为日常工作的一部分，因为这对用户和对我们来说显然都是正确的事。”
Zuckerberg认可Amodei方案的部分内容，但似乎暗示政府行动没有必要——行业自身的激励机制会迫使企业把安全做好，市场最终会让那些花心思确保模型不引发混乱的公司胜出。这与他在上个月的长文立场一致：必要情况下可与政府有限合作，但美国竞争力才是技术繁荣的关键。
Reddit联合创始人与DeepMind联创各自表态
Reddit联合创始人Alexis Ohanian周三对CNBC表示，他认为科技行业在向公众解释AI风险方面总体上“充耳不闻”。但与Zuckerberg一样，Ohanian似乎也寄望企业自己能解决问题。
Google DeepMind联合创始人Shane Legg也发表了看法：“我们现在处在一个能力推进非常、非常快的时期。但我们不能让能力跑在安全前面。”他补充说：“我们需要真正梳理清楚细节，以及这在实践中如何运作。”
尽管大型实验室呼吁公私合作，一些支持监管的声音也相对满足于让企业自己写规则。
大公司被曝筹建私营“自律机构”
The Information本周报道称，OpenAI、Anthropic和其他主要AI公司正在合作创建一个AI标准组织，被一家媒体描述为私营“自律机构”。此前曾讨论过创建类似的联邦运营机构，但特朗普白宫没有推进——该政府中有不少AI支持者，总体上推动不受监管的科技商业，甚至试图强力阻止州政府推出自己的AI法律。政府AI事务负责人、科技老兵David Sacks表示，AI监管应留给开发AI的公司。
国会要员同样兴趣不大。在Amodei文章发表后不久，众议院议长Mike Johnson如此回应灾难性AI进展的担忧：“你们不会在10年内都死掉。”
一个私营组织将使行业除自愿承诺外不受监管，并自然赋予创建它的公司一定的权威和影响力。
“监管俘获”与中国的回应
这引出了另一个持续存在的说法：行业对监管的呼吁实际上是一种“监管俘获”策略。按此论点，已在行业中占据显要地位的强大公司可能利用监管策略排挤或不利于规模更小、资源更少的公司，从而压制竞争。这不一定涉及真正的法规，也可能涉及自愿行业标准——但这些标准仍会对实力较弱的公司构成压力。
中国政府多位知名人士也呼应了这一立场。在Amodei本周呼吁“为前沿定速”后，中国外交部郭嘉昆指责美方用“制造恐慌”来扰乱全球AI治理的发展，中国官方报纸的一篇评论文章称Amodei的言论直接出自“冷战剧本”。
调整企业与中国做生意的方式——Amodei文章中所呼吁的事项之一——自然可能成为美国公司让形势朝对自己有利方向倾斜的机会。Amodei甚至承认这就是目标：“如果我们把这些措施执行好，我相信它们会让中国的进展慢下来，足以在未来3到5年显著扩大美国的领先——这是AI在地缘政治上最重要的窗口期。”
Cohere CEO称这是“卡特尔”
不只有中国认为美国大型AI实验室在为自己谋利。加拿大AI公司Cohere的CEO Aidan Gomez最近指责这些公司组成“卡特尔”，他在博客文章中写道：“AI需要护栏。这不是争议所在，从来都不是。争议在于谁来写护栏、谁可以参与，以及规则保护谁的利益。”
正如Gomez所指出的，AI安全领域是一个深度政治化的领域，安全一词如何定义、由谁定义，最终将帮助决定在下一阶段AI竞争中谁抢跑、谁被落下。