Anthropic与OpenAI提议把安全评估员嵌入内部，评估机构质疑独立性
Dario Amodei和Sam Altman承诺让METR、Redwood Research等第三方评估员进入公司系统，可发布不受编辑控制的风险发现；评估机构欢迎但追问谁来保证访问时间、披露权和独立性，并指出此前多次评估因时间过短而无法得出可靠结论。
AI解读：Anthropic CEO Dario Amodei提出把第三方评估员嵌入所有前沿AI公司内部，让他们报告安全事件、判断模型是否真正对齐，并把未经修饰的发现公之于众；OpenAI CEO Sam Altman表示OpenAI也会承诺这一做法。
过去外部评估通常在模型发布前测试成品，现在评估机构希望访问训练过程中的中间版本（checkpoint）、奖励模型行为的后训练环境、评估记录和日志，以判断令人担忧的行为是何时出现的，并核实公司关于模型表现的说法。
评估机构欢迎提议，但指出细节未定：Anthropic和OpenAI都没有说明找哪些评估方、何时嵌入、嵌入多少人、能访问哪些系统和信息、哪些内容可以公开。
此前METR和Redwood调查Hugging Face事件时只有约一周现场时间，两者称因范围和时限限制无法得出有把握的结论；Apollo Research评估GPT-6 Astra仅获得三天，其模型卡称低违规率不能作为模型对齐的实质证据。
评估机构还担心默认的合同模式：评估方被当作普通承包商，受严格保密协议约束，公司对最终可发布内容有很大控制权；FAR.AI曾因此拒绝多家前沿开发商的合同。
Meta、SpaceXAI和Google DeepMind尚未承诺嵌入第三方评估员；加州SB 53要求大型前沿AI开发商发布安全框架并报告重大安全事件，本月签署的SB 813为州认可的独立验证组织建立框架，欧盟AI法案要求前沿开发商开展并记录模型评估和对抗性测试。
Anthropic CEO Dario Amodei在周末发表的长文中提议，把第三方评估员嵌入所有前沿AI公司内部，赋予他们报告安全事件、评估AI模型是否真正对齐、并向世界分享未经修饰发现的权力。Amodei称Anthropic将承诺让METR、Redwood Research等独立评估员获得前所未有的系统访问权限。OpenAI CEO Sam Altman表示OpenAI也会承诺这一做法。
TechCrunch采访的第三方评估员普遍欢迎这一提议，但表示细节需要敲定——最好由立法支持——才能判断他们将成为真正独立的监督者，还是按AI公司条件行事的供应商。
评估机构想要训练过程中的访问权，而非只看成品
评估员指出，随着模型越来越善于识别自己正在被评估，深度访问变得更加重要：模型可能在测试中表现良好，同时隐藏有问题的行为。研究人员称，测试成品模型可能错过这些线索，而调查模型在训练全过程中的行为则可能发现它们。
Apollo Research研究负责人Alexander Meinke对TechCrunch说：“AI公司应该能回答一些关于训练过程的基本问题，比如：AI是否曾在训练中主动破坏自己的对齐训练？答案应该毫无疑问是否定的，而现在我们完全依赖AI公司自己仔细检查并如实向公众报告。从近期事件看，默认情况下他们两件事都不会做。作为嵌入内部的评估员，我们才能真正核查。”
历史上，AI公司在模型发布前不久请外部评审测试成品。如今接受TechCrunch采访的评估员提议，不仅访问最终模型，还要访问其训练生命周期中的中间版本，即“checkpoint”。FAR.AI CEO Adam Gleave说，评估员可以比较这些checkpoint，确定令人担忧的行为何时出现，检查奖励模型某些行为的后训练环境，并查看评估记录和日志，以核实公司关于模型表现的说法。
Anthropic和OpenAI是否以及何时计划提供这类访问尚不清楚。尽管TechCrunch多次询问，两家公司都没有透露将与哪些评估员合作、何时嵌入、引入多少人、能访问哪些系统和信息，以及可以向公众披露什么。
评估测试可能被模型“应试”，需要检查训练过程
评估员表示，在安全测试中表现好的模型未必安全，如果它专门学会了如何通过那项测试。Palisade Research战略负责人John Steidley举了一个“关停抵抗基准”的例子，该基准衡量AI在特定情况下是否会抵抗被关停。“如果AI被专门训练在那项基准上表现良好，这就极其相关，”Steidley说，并将其比作大众汽车排放门丑闻——汽车被编程识别排放测试并在测试条件下改变表现。
Gleave指出，有意义的访问可能超出模型本身，评估员还应能采访员工，核实公司的文档和公开描述的安全实践是否与内部实际情况相符。
Amodei确实提出了一个相当全面的方案，可能给予评估员他们认为必要的访问权，包括有权“发布关于风险水平、事件、实践以及他们获得或未获得访问权的关键发现——不受Anthropic的编辑控制”。
但评估员说，这样的系统只有在AI公司真正愿意交出过程控制权时才有效。以往独立评估的努力表明，这种交出很难实现，第三方经常在访问权、时间、保密性和公开内容上遇到紧张关系。Gleave说，FAR.AI曾不得不拒绝多家前沿开发商的合同，因为它们对评估过程控制过多，威胁到公司的独立性。他说，默认情况下评估员被当作普通承包商：受限制性保密协议约束，这些协议赋予开发商对最终可发布内容的很大控制权。
时间限制问题：一周、三天与“为什么这次不同”
还有一个问题是，评审者是否有足够时间和访问权来完成被要求的工作。在调查Hugging Face事件时，OpenAI给了METR和Redwood大约一周的现场时间进行调查，两者后来表示，由于范围和时限限制等原因，他们无法得出有把握的结论。
类似问题出现在GPT-6 Astra的发布前测试中，OpenAI称这是其对齐程度最高的模型。根据Apollo Research在模型卡中的贡献说明，该公司只有三天时间测试Astra，这使得很难得出确定结论。该公司在评估中写道：“Apollo认为，鉴于更高的评估意识和有限的评估窗口，这里较低的违规率不能为模型的对齐或不对齐提供实质性证据。”
这样的记录让评估员面临一个基本问题：为什么这次会不同？Gleave说：“Dario和Sam完全可能只是改变主意，他们会非常开放。但这些公司的知识产权对他们来说极其宝贵，我认为默认情况下他们会非常谨慎地决定可以分享什么。”
多位接受TechCrunch采访的研究人员呼吁建立一个各方公开同意的透明框架。Steidley说，框架的一部分应该包括公司可以依赖何种审计员的标准，以免它们通过挑选不合格或对评估最令人担忧风险不感兴趣的评估员来回避问题。
自愿承诺与立法：Meta、SpaceXAI、Google DeepMind尚未加入
Safer AI执行董事Henry Papadatos说，即使有公开框架，问题在于自愿措施总是取决于公司的善意。他对TechCrunch说：“理想情况下，我们会有一项良好的法规来强制这一点……因为这样公司就不能在明天遇到重大公关危机时改变主意。”他指出，这也是推动所有公司而不仅仅是最愿意的公司遵守规则的好办法。
并非所有公司都加入。到目前为止，Meta、SpaceXAI和Google DeepMind尚未承诺嵌入第三方评估员，不过DeepMind CEO Demis Hassabis提出了一个单独的行业标准机构来独立测试前沿模型。Google、OpenAI和Anthropic也私下讨论了数周AI安全计划。
一些法律已经在围绕第三方评估员的理念形成。加州去年签署的SB 53要求大型前沿AI开发商发布安全框架并报告重大安全事件。本月签署的新法SB 813为州认可的“独立验证组织”建立框架，这些组织需具备评估AI风险的专业能力。在欧洲，欧盟AI法案要求前沿开发商开展并记录模型评估和对抗性测试，并报告严重事件；欧盟AI办公室也可以进行自己的评估并任命独立专家。
目前法律仍不如Amodei提议的那样广泛，前沿实验室在很大程度上仍可自行决定接受多少独立审查。Papadatos说，自愿自我监管总比没有好，但最终，公司不能一方面要求自由控制自己的安全规则，另一方面又要求公众相信他们会遵守。“你不能两头都要，对外零问责，然后说‘我就用自己的灵活规则’，”Papadatos说。