Bryan Cantrill批评AI灭绝论：专家不应滥用公众信任
前Anthropic员工Jacob Coxon称许多Anthropic研究员相信AI“可能在本十年末杀死所有人”，Bryan Cantrill回应称这类说法依赖含糊的未来外推，并点名Coxon并非关键基础设施、生物武器或灭绝领域的专家。
AI解读：这条新闻的核心不是“AI会不会灭绝人类”，而是一位资深工程师对AI圈内末日论传播方式的公开质疑。Bryan Cantrill回应前Anthropic员工Jacob Coxon的推文，后者称许多Anthropic研究员相信AI“可能在本十年末杀死所有人”。
Cantrill的反驳角度很具体：Coxon举出的“入侵关键基础设施”和“灭绝级生物武器”没有进一步解释，而他并非关键基础设施、生物武器或灭绝领域的专家。Cantrill还提到自己年轻时曾因错误判断让技术背景较弱的同伴产生不必要的恐慌，以此警告专家不要滥用公众信任。
对普通读者来说，这条新闻不影响你手里的模型能不能用，但会影响你怎么看待AI安全警告：当一项声明来自专家身份时，公众倾向于相信，而提出警告的人有责任把依据说清楚。Cantrill没有说AI风险不存在，他质疑的是当前这类灭绝论缺乏可核查的细节。
Cantrill的立场在Oxide and Friends播客中也有展开，他呼吁让生物学家或生物武器领域有经验的人来评估相关说法。他的担心是，生物武器这类话题“留下太多想象空间，而恐惧会被自行填入”。
Bryan Cantrill公开回应了前Anthropic员工Jacob Coxon的一条推文。Coxon在推文中确认，许多Anthropic研究员相信AI“可能在本十年末杀死所有人”。
Cantrill在回应中分享了自己年轻时因错误判断导致技术背景较弱的同伴产生不必要恐慌的经历，并警告不要重蹈覆辙。他写道，这类“阴森”的说法直接冲击家庭，鉴于AI显而易见的重要性，它们进入主流并不令人意外，人们自然会问：那会怎么发生？
Cantrill指出，答案总是依赖含糊的对未来的外推。他举例说，Coxon提到“入侵关键基础设施”和“灭绝级生物武器”，但没有进一步说明。Cantrill补充，Coxon并非关键基础设施专家，也不是生物武器专家，更不是灭绝问题专家。
Cantrill同时表示，不应指望公众理解大语言模型、关键基础设施、生物武器或灭绝生物学，举证责任必须落在提出声明的一方。他说，自己几十年前（羞愧地）学到的教训是：领域专家因其专业身份而隐含地拥有公众信任，绝不能滥用它；专家在提出主张时应保持审慎，在发出警报时更应如此。
Cantrill在近期他参与的Oxide and Friends播客节目中谈到了对生物武器担忧的疑虑。相关讨论从该集 51 分 44 秒开始，57 分 04 秒处他说：“我真的认为我们需要小心，因为当我们编造这些……它可能给你生物武器。怎么给？能不能请生物学家来发表意见？或者请有生物武器经验的人来？”
Cantrill还说，生物武器这件事让他如鲠在喉，因为它留下太多想象空间，而人们会用恐惧去填充这些空白。