YC的Garry Tan反对监管蒸馏,主张美国开源模型也能“蒸馏”前沿模型
YC CEO Garry Tan接受CNBC和TechCrunch采访时表示,对中国实验室蒸馏美国前沿模型“我什么都不做”,并称美国也可以建立自己的蒸馏制度,让本土开源权重实验室以同样方式训练模型。
AI解读:Garry Tan反对用监管手段打击蒸馏,理由有两条:一是AI实验室不该规定客户拿API输出做什么,二是那些闭源实验室当初训练模型时也没征得版权持有者同意。
他真正担心的是权力集中——所有前沿能力落在一家既有钱又有人才的公司手里,所以希望美国有一批非中国的开源权重选项与之平衡。
这件事的背景是Anthropic本周发布第二份报告,指控中国实验室用隐藏身份、欺诈和窃取凭证的方式“非法蒸馏”。Anthropic CEO Dario Amodei此前公开呼吁监管介入,Tan的立场与硅谷主流收紧口径相反。
对做开源权重模型的美国小实验室来说,这是来自头部加速器的公开背书;但Tan只主张“走正门”蒸馏,并不支持用窃取凭证的方式,这条边界没有松动。
Y Combinator CEO Garry Tan本周接受CNBC采访时表示,面对中国AI实验室用蒸馏技术从前沿模型厂商提取知识,他希望监管机构不要介入。他说:“我什么都不做。”他还说:“我们可以主张,应该存在一个美国蒸馏制度。”
Tan随后向TechCrunch解释,所谓美国蒸馏制度,是指他希望规模较小的美国开源权重AI实验室,对美国前沿AI实验室使用同类的训练技术,从而让美国拥有更丰富的、非中国的开源权重选项。
蒸馏指的是模型厂商大量提示另一个模型,从而学习它如何工作、如何推理。AI实验室普遍且合法地用这种方式帮助训练新模型。
Anthropic本周发布第二份报告,指称中国实验室从事“非法蒸馏攻击”,隐藏身份在未获许可的情况下进行蒸馏,并依赖欺诈和窃取的凭证。Anthropic CEO Dario Amodei此前曾公开呼吁美国监管机构打击蒸馏。
Tan并不主张美国AI实验室使用窃取的凭证去蒸馏。他希望它们能够自由地从正门进入。
他的论点有两层:一是AI实验室规定客户能用模型分享的信息做什么,属于越权;二是专有AI实验室在尽可能吸收人类知识训练模型时也没有征求许可,它们大量摄取受版权保护的材料,并未获得知识产权持有人的同意。
Tan对TechCrunch解释“从正门进入”的含义
在被问及为何美国实验室也应被允许自由蒸馏时,Tan对TechCrunch说:“控制用户和客户对闭源权重模型的API调用能做些什么,让人感到受限;政府在这里可以发挥作用,去正常化一个事实:对基于广泛公开数据训练出的智能的访问,本身也应当更像一种公共产品,而不是被限制性服务条款锁起来的东西。”
Tan自称是重度AI用户,曾形容自己有“赛博精神病”。他希望看到开源权重AI实验室和前沿实验室之间的平衡。
他对CNBC说:“它们处在前沿并推动前沿前进。我们希望这能持续获得投资,并成为一个好的商业模式。你也希望开源权重模型给人们自由和访问权。”
在他看来,真正的AI末日场景,是前沿AI的全部巨大能力最终落入一家强大的专有提供商手中。
他说:“AI的噩梦场景、末日场景,就是只有一家公司。它拥有最好的资本渠道,拥有最好的AI研究人员,它一骑绝尘,突然之间出现一家monolithic( monolithic)公司。那会很糟。”