Altman再提放慢AI开发,OpenAI在重大训练前增设安全协议
Altman称“放慢”不等于“停止”,进展仍会很快;OpenAI会在可能带来能力跃升的训练前设定明确安全协议,并希望其他公司效仿。
AI解读:这相当于给最烧钱、最可能出意外的那一步加了一道检查,而不是给日常迭代踩刹车。
真正受影响的先是头部实验室自己。协议写在训练前,意味着模型规模、算力投入和发布节奏之间多了一个内部决策节点;对想追赶的小公司来说,头部公司示范的流程可能变成事实门槛,Cohere已经担心这变成卡特尔。
他还呼吁全美统一的安全框架,但明确说不要等立法者。这句话的潜台词是:企业先按自己的标准跑,政府如果跟不上,规则就由少数几家定。行业自律和监督机构还在谈,能落地多少,目前没有公开的时间表。
OpenAI CEO Sam Altman再次呼吁给AI开发“稍许放慢”,同时明确表示进展仍会很快。他提出的具体做法是:在可能带来重大能力跃升的训练开始前,OpenAI会设定明确的安全协议,他希望其他公司“学习我们的做法并提出自己的方案”。
Altman强调,“放慢(pacing)”不等于“停止”,进展会“继续很快”,只是不会以可能达到的最快速度推进。他称这种放慢的代价是值得的,任何美国竞争压力都不应成为鲁莽的理由,也不应让能力跑到对齐和监控前面。
他还希望建立统一的、全国性的先进AI安全框架,但表示行业不应等待立法者。国际协调需要美国政府的支持。
据The Information报道,OpenAI、Anthropic和Google已经就通过独立监督机构进行自我监管商讨了数月。规模较小的公司如Cohere担心,这可能变成卡特尔。
上周末,Anthropic CEO Dario Amodei、前DeepMind CEO Demis Hassabis、微软CEO Satya Nadella和Elon Musk都表态支持对AI开发进行更好控制。