研究The Verge AI·原文 2026年11月7日

METR报告:Anthropic内部模型一年取得约两年进展,报告大量内容被删改

AI安全研究机构METR在Anthropic内部调查 11 周后称,该公司模型进步速度约为一年前的两倍,过去一年相当于历史上约两年的进展;METR同时指出,公开版报告的大部分关键证据被Anthropic删改,双方对删改是否合理各执一词。

AI解读:METR认为加速主要来自AI本身,而非单纯扩大训练算力;这一判断基于非正式Slack调查、员工访谈和基准分数。读者需要注意,员工自报约 12 倍生产率属于自我报告数据,METR未公开可独立复核的完整证据链。

报告涉及的三款未发布模型(Model 2、Model 3、Model 4)均在 2026 年 7 月至 10 月间完成训练,说明METR观察到的加速部分来自外部无法直接测试的内部系统;因此这些结论的适用范围是Anthropic内部研发流程,不能直接外推到公开模型的能力。

Anthropic联合创始人Sam McCandlish承认删改使外界难以核查METR的工作,但称公开加速的具体驱动因素会向竞争对手提供路线图;这一说法是公司主张,METR则表示大部分被删信息属于“非常高层级”的内容。

多位外部研究者将报告与AI 2027情景对比。Apollo Research的Marius Hobbhahn称报告显示的速度略快于预期;METR的Ryan Greenblatt表示自己此前对 2026 年递归自我改进速度的预期“严重偏低”。这些是研究者个人判断,不是对结果的验证。

METR称目前加速主要来自AI辅助人类研究员,但已看到“完全自主贡献将很快扮演更大角色”的迹象;报告未给出自主贡献占比,也没有证明系统已能无人干预地自我改进。

报告还提到,Anthropic取消了评估其安全研究与能力提升算力分配的部分环节,称希望本次合作聚焦风险评估;这一细节来自METR转述,Anthropic未就此向The Verge置评。

AI安全研究机构METR于本周四发布一份报告,基于在Anthropic内部为期 11 周的调查。报告称,Anthropic的模型进步速度约为一年前的两倍,基准分数显示该公司“在过去一年取得了大约两年的历史性进展”,且几乎没有放缓迹象。

METR表示,研究人员“确信”这一加速不只是因为扩大了训练算力;截至 10 月,大部分加速“归因于AI”,且AI的贡献随时间上升。该判断得到对Anthropic员工的非正式Slack调查和访谈支持。METR称,使用该公司最强内部模型的员工自报生产率约为无AI辅助时的 12 倍,约为几个月前使用Mythos 5时所报数字的两倍。

报告同时留下一个关键缺口:METR向Anthropic提交了约 100 页完整报告,但公开版中“我们找到的最有信息量的证据大部分被Anthropic删改”。METR称其信息渠道“相对狭窄”,少量数据请求被拒绝。

加速来自哪里,结论覆盖什么范围

METR将加速的主要来源指向AI本身,而非单纯堆算力。报告称,截至 10 月,大部分加速由AI贡献,且这一贡献在增长。支持这一判断的材料包括基准分数、对员工的非正式Slack调查和访谈,其中员工自报使用内部模型后生产率约为无AI辅助时的 12 倍。

这些数字的边界需要分清:12 倍是员工自我报告,不是受控测量;基准分数衡量的是特定评测,不等于整体研发能力。METR称目前加速主要来自AI辅助人类研究员,而非AI独立工作;报告同时警告“有一些迹象表明,完全自主的贡献很快会扮演更大角色”,但没有给出自主贡献的占比。

报告还称,未发现明显的收益递减或可观察的瓶颈会阻止“更快的加速”。这一表述是METR对现有证据的判断,不是对未来的保证。

  • METR称Anthropic过去一年取得约两年历史进展,速度约为一年前的两倍
  • METR称大部分加速归因于AI,而非单纯扩大算力
  • 员工自报生产率约为无AI辅助时的 12 倍,为自我报告数据
  • 目前加速主要来自AI辅助人类,自主贡献占比未披露
  • METR称未发现明显收益递减或阻止加速的瓶颈

三款未发布模型与内部访问

METR称,过去六个月Anthropic完成了三款尚未发布模型的训练,代号分别为Model 2、Model 3和Model 4,完成时间依次为 7 月、8 月至 9 月、9 月至 10 月。METR还识别出一款可追溯到 2022 年的未发布模型,称为Unreleased 2022。METR注明这些是对方告知的代号,公司内部另有命名。

这意味着METR观察到的加速有相当部分来自公众无法测试的内部系统。报告描述的是Anthropic内部研发流程的变化,不能直接换算为公开模型的能力提升速度。

METR称Anthropic提供的信息“超出项目最初范围”,包括机密研究、模型性能数据和员工访谈;但Anthropic没有给予不受限制的访问权限,也没有提供其上月向另一批METR安全研究员承诺的“类员工”访问权限。METR称这是另一项独立安排。

  • 三款未发布模型代号为Model 2、Model 3、Model 4,分别在 7 月、8 至 9 月、9 至 10 月完成训练
  • METR还识别出一款 2022 年的未发布模型Unreleased 2022
  • METR获得机密研究、性能数据和员工访谈,但访问受限
  • 此次调查与另一项“类员工”访问计划相互独立

删改之争:公司称保护商业利益,METR称公众难以核查

Anthropic有权删改METR最终报告,并“广泛”使用了这一权力。METR在报告中称,被删改的证据“可能有多种合理解释”,这让公众难以评估其结论、理解其中的不确定性,也难以自行判断证据。METR称,结果是公众“不得不在比理想情况更大的程度上依赖METR的判断”。

Anthropic联合创始人Sam McCandlish在X上回应称,公司“删改了很多,我接受这使其他人更难核查METR的工作”,但决定不公开究竟是什么在推动加速,因为“这既涉及商业敏感信息,也可能向其他人提供加速的路线图”,并称公开会让METR担心的风险“更糟”。他称这是权衡,但公司做了“正确决定”,并计划在未来几周发布自己的AI进展速度报告及新的安全措施。

METR称,Anthropic给出的删改理由是公开信息可能有利于竞争对手;METR表示无法判断这些删改在商业上是否合理,但称“大部分被删改的信息非常高层级”。Anthropic拒绝回答The Verge关于报告及后续批评的问题,仅指向McCandlish的帖子。

  • METR提交约 100 页完整报告,公开版大部分关键证据被删改
  • METR称信息渠道狭窄,少量数据请求被拒
  • McCandlish承认删改妨碍外部核查,称公开驱动因素会帮助竞争对手
  • Anthropic拒绝回答The Verge的提问,仅指向McCandlish的X帖子

外部研究者如何看速度与递归自我改进

外部研究者将这份报告与AI 2027情景对比。Apollo Research创始人兼CEO Marius Hobbhahn对The Verge表示,报告显示AI赋能研发的速度甚至快于AI 2027的预测,该情景设想 2027 年初出现通向自我改进的关键突破。他称报告受关注,是因为它提供了此前难以确定的证据:AI究竟在多快地加速自身开发。

GovAI高级研究员Alan Chan对The Verge表示,这些发现应促使怀疑者重新考虑AI加速AI开发的立场,并可能缩短他们对软件工程等任务被完全自动化所需时间的估计。METR研究员Ryan Greenblatt在X上称,他“此前对递归自我改进加速的预期严重偏低;我原本预计 2026 年要少得多”。

这些是研究者基于报告作出的个人判断。报告本身只覆盖Anthropic,且公开版证据被大量删改;OpenAI在 9 月表示,正在朝 2028 年 3 月前构建能推进深度学习与对齐研究的AI研究员“取得强劲进展”,这是另一家公司的自我描述,不是对METR结论的验证。

  • Hobbhahn称速度略快于AI 2027的预测
  • Chan称怀疑者应重新考虑立场,可能缩短自动化时间线预期
  • Greenblatt称自己此前对 2026 年递归自我改进速度预期严重偏低
  • OpenAI称目标在 2028 年 3 月前构建AI研究员,属公司自述

安全立场与透明度压力

报告发布后,AI安全研究者与评论者集中批评Anthropic的立场矛盾:公司一方面公开呼吁负责任开发、有时呼吁同行放慢,另一方面报告显示其自身在加速。AI Futures Project的Daniel Kokotajlo在X上指责Anthropic“拿我们的生命鲁莽赌博”,并称公司以别人会加速为理由删改信息“相当讽刺”,因为该公司自己“似乎根本没有放慢多少”。

Institute for AI Policy and Strategy前沿安全研究主任Brianna Rosen对The Verge表示,令人担忧的是由公司而非政府来决定AI研究自动化的节奏;她称“为了让民主监督发挥作用,独立评估者需要能解释为何得出其结论,政府需要自行评估证据,公众需要信任这一过程”,而这份报告“在证据方面不够透明”。

METR还称,Anthropic取消了评估其将多少算力分配给安全工作、多少用于提升能力的部分评估。METR转述公司说法称,这是因为希望本次合作暂时聚焦风险评估,之后会重新审视算力分配核查。Hobbhahn称,这一取消是外界反应强烈的原因之一。纽约州众议员Alex Bores在回应报告时呼吁国会“禁止递归自我改进,今年能禁就禁”。

  • Kokotajlo指责Anthropic“拿我们的生命鲁莽赌博”,并批评其删改理由
  • Rosen称报告在证据上不够透明,独立评估者需能解释结论
  • METR称Anthropic取消了算力分配核查部分,称希望聚焦风险评估
  • 纽约州众议员Bores呼吁国会今年禁止递归自我改进

信息来源

The Verge AI原始来源

更多

新闻专题
外观