英伟达、Palantir、博思艾伦限制使用Anthropic旗舰模型Fable处理敏感工作
据The Information报道,尽管英伟达是Anthropic的投资方并为其供应硬件,仍只将Fable用于开源项目等低敏感任务,内部供应链AI监控改用自研Nemotron模型。
AI解读:Anthropic向企业客户承诺数据不用于训练,但公司行为暴露了信任裂痕:英伟达、Palantir、博思艾伦都限制用Fable处理敏感工作。
英伟达作为Anthropic的投资方和硬件供应商,仍将Fable用在开源项目等低敏感任务,内部AI供应链监控跑自研Nemotron。博思艾伦禁止员工用Fable做专有网络安全软件;Palantir要求Anthropic提供不可撤销的零数据保留保证,才放行Fable部署。
有客户担心的是,零数据保留也不等于零风险:OpenAI和Anthropic仍会收集元数据和用量技术数据,部分客户不清楚这些元数据具体覆盖什么,认为透明度不够。
OpenAI联合创始人John Schulman公开讨论了用用户数据训练的多种方式,称去标识化很弱,而且用极少量比特就能反推用户身份;Anthropic前研究员Sarah Hooker则提醒有知识产权窗口期,否则可能是在为前沿实验室提供燃料。
目前这些限制主要影响有知识产权顾虑的企业和研究者,对普通用户没有直接动作要求;真正的问题是,各家的数据保留政策与实际做法之间还有多少空间。
据The Information报道,英伟达、Palantir和博思艾伦汉密尔顿(Booz Allen Hamilton)已经限制使用Anthropic的旗舰模型Fable处理敏感工作。英伟达虽然投资了Anthropic,也为其模型开发供应硬件,但目前只把Fable用于开源项目这类低敏感任务。
英伟达企业AI副总裁Justin Boitano对The Information表示:“作为一家公司,我们认为零数据保留应该默认开启。”博思艾伦首席技术官Bill Vass则说:“我们有点担心Fable可能正在从我们的一些代码中学习。”
Palantir要求不可撤销的零数据保留保证
报道称,Palantir在其自有软件中阻止Fable部署给客户,直到Anthropic授予不可撤销的零数据保留保证。Palantir CEO Alex Karp在一次客户活动上说,企业已经厌倦被AI实验室“剥削”。
The Information指出,Palantir的立场也有自身利益:它希望客户通过其号称安全的平台运行AI模型,而不是直接找模型提供商。
Anthropic在客户反弹后推出零数据保留计划
在客户反弹以及OpenAI 8月允许GPT-5.6 Cyber客户将安全日志存储在自有服务器之后,Anthropic也推出了类似计划,今年秋季向部分客户开放。
但零数据保留仍有缺口。The Information称,即便启用了零数据保留,OpenAI和Anthropic仍会从企业客户收集元数据和用量技术数据。OpenAI将这些数据称为“去标识化”数据,即剥离了可追溯到单个客户的信息。OpenAI在其网站上表示,会对业务数据运行自动分类器和安全工具,“以更好地了解我们的服务如何被使用”。这些分类结果是关于业务数据的元数据,“但不包含任何业务数据本身”。
The Information称,部分客户不确定这些元数据具体覆盖什么,也不认为当前的透明度足够。
去标识化被指很弱,合成数据也能保留统计规律
OpenAI联合创始人、曾在Anthropic短暂工作、现就职于Thinking Machines的John Schulman最近列出了AI公司用用户数据训练的几种方式。这个谱系从直接对用户数据进行预训练——这种方式内容被复现的风险很高——到把大模型蒸馏成小模型,再到从“用户痕迹”构建强化学习任务。
Schulman说,最后一种方式复现内容的风险低,但仍能提取客户知识产权。它的范围从无害——“在奖励模型训练中使用明确的用户反馈”——到侵入性——“上传用户的编程环境和提交历史,转化成强化学习环境”。
他还说:“去标识化很弱,只要少量比特就能反推用户身份”,而且它不能防止知识产权泄漏。曾在Cohere和Google DeepMind工作过的AI研究员Sarah Hooker描述了类似的漏洞:存在“巧妙的合成数据技术,可以生成分布等价的数据,同时保留隐私”。换句话说,即使AI实验室不直接使用原始数据,也可能提取出能完成同样任务的统计模式。
Hooker警告企业:“如果你是一家拥有知识产权的公司,你利用自己知识产权构建自有智能的窗口期有限。否则你就是在喂养一个前沿实验室,它迟早会侵入你的垂直领域。”
Schulman后续澄清:用户数据对前沿能力贡献可能有限
在后续帖子中,Schulman有所回退。他说,用用户数据训练“极不可能”对前沿能力提升有很大贡献。这些提升主要来自扩展预训练和强化学习。用户数据更有用的是发现失败模式,或者用付费标注员很难复现的情况。
不过,他补充说:“模型公司在用用户数据训练的激进程度上各不相同(上传代码仓库也不是假设)。”这很可能指向Codex或Cursor这类AI编程工具,用户会把自己的代码仓库直接连接到这些服务。Schulman呼吁“围绕公司如何用用户数据训练建立更强的披露规范”。
Buckmaster事件让信任问题变得具体
Schulman是在数学家Tristan Buckmaster对OpenAI提出严重指控后参与讨论的。Buckmaster和合著者Levent Alpöge曾用AI模型在Navier-Stokes方程上取得进展,通过OpenAI的Codex上传了他们的草稿。不久后,OpenAI展示了它自己的突破,用了同样的不寻常解题路径。
OpenAI最初承认,无法排除从他们使用产品中衍生的匿名化数据帮助改进了我们的模型。经过内部调查后,公司更新了帖子,称Buckmaster在2026年9月8日发表前两个月的Codex提示“不可能以任何方式影响系统,包括通过训练”。
尽管如此,这一事件表明企业、学术界和AI实验室之间的信任有多脆弱。