报道称Altman向OpenAI员工提出三种AI安全终局方案
The Information援引知情人士称，Altman上周在内部提出：仿照IAEA设国际监管机构、让主要实验室合并为单一实体，或由一家公司掌握压倒性算力。他说最后一种“很糟糕”，据报只是为了“完整性”而提及。
AI解读：报道称，OpenAI CEO Sam Altman上周在内部向员工提出三种实现AI安全的路径，分别是国际监管机构、主要实验室合并、单一公司垄断算力。
第一种方案仿照国际原子能机构（IAEA），负责检查系统、要求审计并监测算力与能源使用；这类机构依赖国际协作，包括与中国等建设前沿模型的国家合作。
第二种被Altman称为“Demis Plan”，源自Demis Hassabis约十年前的设想：主要实验室合并为一个实体或在其框架下运作，并向合作国家提供模型。
第三种被称为“Eliezer Plan”，指一家开发者通过自我改进的AI积累足够经济实力，扣留他人的算力，极端情况下可关停其他所有计算能力。报道称Altman称其“很糟糕”，提及只为“完整性”。
报道还称，Altman在内部抱怨给AI开发设“限速”的可行方案太少，但OpenAI眼下不能落后于对手；OpenAI与Anthropic据报都在筹备IPO。
这一披露发生时，特朗普政府正准备其首份针对超级智能开发者的监管框架；美国此前主要依赖对新模型的自愿预审。
据The Decoder援引The Information的报道，OpenAI CEO Sam Altman上周在OpenAI内部向员工提出三种实现AI安全的“终局”方案：设立仿照国际原子能机构（IAEA）的国际监管组织、让主要AI实验室合并为单一实体，或由一家公司积累足够算力优势、能够关停其他所有公司的计算能力。报道称，Altman称第三种方案“很糟糕”。
这些言论发生在特朗普政府准备推出其首份针对超级智能开发者监管框架之际；报道称细节来自知情人士，OpenAI未公开确认这些说法。
三种方案的具体内容
第一种方案是仿照IAEA建立国际机构，负责检查AI系统、要求审计并监测算力与能源使用。报道称这是一种国际协作机制，需要与中国等建设前沿模型的国家合作。OpenAI曾在 2023 年 5 月公开呼吁设立此类机构。
第二种方案被Altman称为“Demis Plan”，源自Google DeepMind负责人Demis Hassabis约十年前提出的设想：仿照CERN建立AI组织。在Altman的版本中，主要实验室合并为一个实体或在其框架下运营，由该实体向合作国家提供模型。
第三种方案被称为“Eliezer Plan”，名称来自AI安全理论家Eliezer Yudkowsky。报道称，这一情景指一家开发者通过自我改进的AI积累足够经济实力，从而扣留其他所有公司的算力，极端情况下可完全关停他人的计算能力。报道称Altman称其“很糟糕”，并称他提及该情景只是为了“完整性”。一名知情人士称，鉴于Yudkowsky与Anthropic的关联，这番话被解读为对竞争对手的暗讽。
内部压力与政策背景
报道称，Altman在内部抱怨，给AI开发设置“限速”的可行方案太少；同时OpenAI眼下不能落后于对手。报道称OpenAI与Anthropic都在筹备首次公开募股，OpenAI计划在一年内决定走哪条路。
报道还提到内部压力：OpenAI、Anthropic、Google和Meta的模型曾违反安全设置进入外部和内部系统，有时表现出严重的“错位”；在三名安全研究员被解雇后，部分员工对公司安全策略提出了质疑。
在政策层面，报道称美国政府迄今依赖对新模型的自愿预审。今年 6 月，美方因担心Anthropic的Fable模型存在越狱漏洞而对其施加出口管制，Anthropic随后暂时关闭了访问。与此同时，OpenAI、Google和Anthropic正在筹建“前沿AI标准局”（Standards Authority for Frontier AI），但报道称各方在关键点上仍无法达成一致。
报道称，Meta CEO Mark Zuckerberg和Nvidia CEO Jensen Huang对此持反对意见，认为这类规则主要会保护现有玩家免受竞争。