查尔斯国王在私人峰会上呼吁控制AI：“以免为时已晚”
这场在苏格兰邓弗里斯宫举行的闭门峰会汇集了黄仁勋、OpenAI和Anthropic的代表、英国新任AI大臣以及英国对外情报机构负责人，国王本人在讲话中称AI“既引人入胜又令人深感担忧”。
AI解读：查尔斯国王把AI行业最有权势的一批人请到自己的乡间庄园，说了一句很不王室的话：得在“为时已晚”之前找到控制AI的办法。王室通常避开政治议题，这次主动谈一个全球最烫手的话题，本身就是一个信号。
在场的有英伟达的黄仁勋、OpenAI和Anthropic的高管、英国新任AI大臣，甚至还有英国对外情报机构负责人。国王只待了大约20分钟就离开，把讨论留给宾客自己继续——这种安排让峰会更像一场闭门吹风，而不是要发布什么政策。
国王讲话的核心矛盾是：AI已经能治病救人，但造它的人正在警告它也可能夺命。这句话出现在Anthropic一名研究员辞职、公开质疑人类能否挺过这场竞赛的几天后，可见王室的话并非孤立表态。
谁真正受影响？短期看是英国政府和这几家AI公司：它们需要在安全监管和国际协调上给出姿态，而峰会没有产出任何具体承诺或时间表。普通读者不必因此改变什么，但可以留意一个趋势——AI安全议题正在从技术圈扩散到王室、情报机构和政府高层。
另一个背景是AI公司之间的分裂：本月Altman、马斯克和Amodei呼吁放缓开发，黄仁勋和特朗普总统则明确反对。国王呼吁的“国际共识”，恰好落在这种分歧的正中间，能走多远没有答案。
查尔斯国王周四在苏格兰艾尔郡的邓弗里斯宫主持了一场关于AI的私人峰会。邓弗里斯宫是一座18世纪的庄园，归国王的慈善基金会所有。
据TechCrunch报道，参会者包括英伟达的黄仁勋、OpenAI和Anthropic的高层代表、英国新任AI大臣Kanishka Narayan，以及英国对外情报机构的负责人。为教皇提供AI咨询的Paolo Benanti也在场。
国王在会上的讲话敦促在场领袖设法控制AI，“以免为时已晚”。他说，这项技术的快速发展及其“实质”，“既引人入胜又令人深感担忧”。
“AI已经展现出改善和拯救生命的巨大能力，”他举例说医学和科学，“但那些创造了这些技术的人，现在越来越多地警告，AI有发展出更黑暗能力的风险，甚至可能夺走生命。”
这番话出现在Anthropic一名研究员辞职数日之后。该研究员在网上写道，AI公司正在“竞相建造比任何人类都聪明得多的机器”，而人类“可能无法挺过这一关”。
国王接着说，迫切需要认真考虑这项技术落入错误之手、被以“潜在灾难性方式”使用会带来的“生存危险”。“我们难道不需要足够的控制手段，以免一切为时已晚吗？”他说。
OpenAI派出CFO，Anthropic派出全球事务负责人
据多家媒体报道，国王在峰会上停留了大约20分钟，随后离开，让宾客们自行讨论相关议题。
OpenAI派出的是CFO Sarah Friar，Anthropic派出的是负责全球事务的Tino Cuéllar。Cuéllar在回应置评请求时表示，公司荣幸参与讨论，并感谢国王“召集行业领袖和社会各界的声音，讨论AI如何服务于公共利益”。
国王在讲话结尾呼吁领袖们设法善用AI的好处，并为此建立国际合作与共识。“你们面前的任务不只是推进技术，而是确保它牢牢服务于人类、社区和自然世界，”他说，“在我们拥抱新事物时，不能丢掉永恒的东西。”
峰会之外的AI路线分歧
这不是查尔斯国王第一次谈AI的挑战与好处，他在2023年和2024年都说过。但这次峰会的时机特殊：本月，OpenAI的Sam Altman、马斯克的Dario Amodei呼吁放缓AI开发，而英伟达的黄仁勋和美国总统特朗普迅速拒绝了这些呼吁。
“我们在AI上领先中国，”特朗普说，“我们世界上最先进的国家，坦白说我想保持这样，因为谁赢得AI，谁就赢。”
报道还提到，Anthropic此前将其Fable和Mythos模型的使用权限限制为仅美国客户，此举震动了欧洲科技界，让许多人开始思考“AI主权”的概念。
过去一年，OpenAI和Anthropic都曾放出重磅IPO的信号，但OpenAI最近表示，由于对AI安全的担忧持续，其IPO计划今年停滞。