Altman、Musk、Hassabis部分支持Amodei呼吁:为AI实验室引入独立监督
据The Decoder报道,三位AI公司领袖至少部分认同Anthropic CEO Dario Amodei的提议,共同点是AI实验室应接受独立评估。Altman同时表示OpenAI今年不会上市。
AI解读:这条新闻的核心不是某家公司发了新模型,而是一群平时互相较劲的CEO在“AI实验室该不该被外部盯着”上找到了共同点。Altman、Musk和Hassabis至少部分支持Amodei的提议,同意AI实验室需要独立监督。
最具体的动作来自Altman:他告诉Fortune,OpenAI今年不会IPO,理由是安全考量,而且这个决定 6 月就在内部传达了。The Decoder也给出了另一种读法——OpenAI当前的财务表现可能本来就不支持现在上市,两种解释可以同时成立。
不是所有人都买账。Google研究员Peyman Milanfar反对Amodei的“限速”思路,理由是递归自我改进(RSI)本身就不稳定:系统越优化自己,越容易掉进盲区,可靠证据只能来自真实世界而非基准测试。他的结论是,能可靠自我改进的系统会被边界和稳定性约束,看起来浪费的余量恰恰是限速,所以不需要额外设限。
据The Decoder AI报道,OpenAI CEO Sam Altman、Elon Musk和Ex-DeepMind CEO Demis Hassabis至少部分支持Anthropic CEO Dario Amodei的提议,三方共同认同的一点是:AI实验室内部需要独立监督。
报道称Altman与Amodei一致认为,AI实验室应当受到独立评估。报道同时指出,Musk多年来一直在就AI风险发出警告,因此他的支持并不令人意外。
Altman称OpenAI今年不上市,理由是安全
Altman还告诉Fortune,OpenAI今年不会上市,原因是安全考量。报道称,他已于 6 月在内部传达了这一决定。
The Decoder提供了另一种读法:OpenAI的财务状况目前并不支持IPO,尤其是与Anthropic相比时。报道认为,两种解释可以同时成立。
Google研究员Milanfar反对“限速”
并非所有人都认同Amodei的提议。Google研究员Peyman Milanfar提出反对,认为递归自我改进(RSI)是一个天真的假设,因为反馈回路本质上不稳定。
Milanfar表示,系统越努力优化自身,就越深地陷入盲区,而可靠证据只能来自真实世界,而非基准测试。他因此认为Amodei的“限速”没有必要。
报道引述Milanfar的原话:“能够可靠自我改进的系统将受到治理、抑制、放缓,并被看起来浪费的余量所约束。因为稳定性就是限速。”