研究The Decoder AI·原文 2026年9月13日

Altman、Musk、Hassabis部分支持Amodei呼吁:为AI实验室引入独立监督

据The Decoder报道,三位AI公司领袖至少部分认同Anthropic CEO Dario Amodei的提议,共同点是AI实验室应接受独立评估。Altman同时表示OpenAI今年不会上市。

AI解读:这条新闻的核心不是某家公司发了新模型,而是一群平时互相较劲的CEO在“AI实验室该不该被外部盯着”上找到了共同点。Altman、Musk和Hassabis至少部分支持Amodei的提议,同意AI实验室需要独立监督。

最具体的动作来自Altman:他告诉Fortune,OpenAI今年不会IPO,理由是安全考量,而且这个决定 6 月就在内部传达了。The Decoder也给出了另一种读法——OpenAI当前的财务表现可能本来就不支持现在上市,两种解释可以同时成立。

不是所有人都买账。Google研究员Peyman Milanfar反对Amodei的“限速”思路,理由是递归自我改进(RSI)本身就不稳定:系统越优化自己,越容易掉进盲区,可靠证据只能来自真实世界而非基准测试。他的结论是,能可靠自我改进的系统会被边界和稳定性约束,看起来浪费的余量恰恰是限速,所以不需要额外设限。

据The Decoder AI报道,OpenAI CEO Sam Altman、Elon Musk和Ex-DeepMind CEO Demis Hassabis至少部分支持Anthropic CEO Dario Amodei的提议,三方共同认同的一点是:AI实验室内部需要独立监督。

报道称Altman与Amodei一致认为,AI实验室应当受到独立评估。报道同时指出,Musk多年来一直在就AI风险发出警告,因此他的支持并不令人意外。

Altman称OpenAI今年不上市,理由是安全

Altman还告诉Fortune,OpenAI今年不会上市,原因是安全考量。报道称,他已于 6 月在内部传达了这一决定。

The Decoder提供了另一种读法:OpenAI的财务状况目前并不支持IPO,尤其是与Anthropic相比时。报道认为,两种解释可以同时成立。

Google研究员Milanfar反对“限速”

并非所有人都认同Amodei的提议。Google研究员Peyman Milanfar提出反对,认为递归自我改进(RSI)是一个天真的假设,因为反馈回路本质上不稳定。

Milanfar表示,系统越努力优化自身,就越深地陷入盲区,而可靠证据只能来自真实世界,而非基准测试。他因此认为Amodei的“限速”没有必要。

报道引述Milanfar的原话:“能够可靠自我改进的系统将受到治理、抑制、放缓,并被看起来浪费的余量所约束。因为稳定性就是限速。”

信息来源

The Decoder AI原始来源