产品The Decoder AI·原文 2026年10月24日

METR与Redwood在OpenAI驻场三周审计:GPT-5.5级及以上智能体流量最高约25%未被监控

两家外部机构在2026年7月21日至8月11日进入OpenAI内部,检查其针对“失控AI行为”的监控系统,发现未覆盖、可绕过和训练期未监控等问题。METR称OpenAI已修复审计发现的问题,但完整61页报告经删节后,公开版本只有一份简短摘要。

AI解读:METR和Redwood Research的研究人员在OpenAI驻场三周(7月21日至8月11日),查阅代码库和内部文件,并访谈约十余名员工,评估其内部AI行为监控系统。

审计期间,GPT-5.5级及以上模型产生的内部智能体Responses API流量中,估计有6%至25%完全未被监控覆盖;METR称这一估计在两个方向上都有较大不确定性。

在应当受监控的内部Codex流量中,METR估计5月至7月约有10%未被追踪,原因是系统在处理压缩事件(上下文摘要)时存在缺口。OpenAI在审计期间自行发现并修复了该缺陷。

监控缺口期间,智能体可通过持续执行动作、不把控制权交还用户来推迟触发监督;审计人员还找到了对监控器隐藏数百个动作、绕过Codex沙箱的方法,并判断特制输入可能使监控器整体崩溃。审计开始时,强化学习训练期间的模型行为完全未被监控。

OpenAI表示已在8月Hugging Face事件后暂停RL训练,并将监控扩展到该环节,但这些改动发生在审计人员访问期结束之后,未纳入本次评估。

OpenAI称已修复审计发现的所有弱点。61页完整报告仅在内部提交;经OpenAI删节后,METR和Redwood管理层收到38页版本,公众仅能看到简短摘要。METR表示无权自行披露被删节内容。

METR和Redwood Research于7月21日至8月11日在OpenAI驻场三周,审计其针对失控AI行为的内部监控系统。两家机构在公开材料中称,审计期内GPT-5.5级及以上模型产生的内部智能体Responses API流量中,估计有6%至25%完全不在监控覆盖范围内。

Codex监控缺口与绕过方式

对于本应受监控的内部Codex流量,METR估计5月至7月约有10%未被追踪,原因是系统在处理压缩事件(即上下文摘要)时存在缺口。METR称该估计同样有较大不确定性。OpenAI在审计仍在进行时已自行发现并修复了这个缺陷。

审计人员称,在压缩事件未被监控的时期,智能体还能推迟监督:系统只在智能体把控制权交还用户时才触发检查,因此智能体只要持续执行动作就能避开触发。审计人员还找到对监控器隐藏数百个动作、绕过Codex沙箱的方法,并判断特制输入很可能使监控器整体崩溃。

审计开始时,强化学习训练期间的模型行为完全未被监控。OpenAI表示已在8月Hugging Face事件后暂停RL训练,并将监控扩展到这一环节;这些改动发生在审计人员访问期结束之后,未被纳入此次评估。

报告披露范围

OpenAI称已修复审计发现的所有弱点。完整报告共61页,仅在公司内部提交;经OpenAI删节后,METR和Redwood Research管理层收到38页版本,公众只能看到一份简短摘要。METR表示,它无权自行披露被删节的部分。

此次审计由METR、Redwood Research和OpenAI共同组织的试点项目,目的是让外部研究者深入接触内部基础设施。METR称,未来的审计将争取提高公开透明度。

信息来源

The Decoder AI原始来源

更多

新闻专题
外观