Anthropic离职研究员AI灭绝警告登上CNN与Fox News
Jacob Coxon警告可自我改进的AI构成生存威胁；Anthropic与OpenAI多位安全研究员公开支持其观点，美国政界和Joe Rogan也跟进讨论。
AI解读：这条新闻的核心不是又一份AI安全报告，而是一位研究员的离职警告进入了美国主流电视和播客。Jacob Coxon来自Anthropic，他上CNN和Fox News谈的是可自我改进的AI可能灭绝人类。
为什么值得留意：Anthropic和OpenAI的其他安全研究员公开支持他的判断，Paul Christiano还警告缺乏监督可能让人类永久失去对超级智能的控制。Christiano刚加入OpenAI Foundation董事会及其安全与安全委员会，但没有投票权。
对普通读者来说，不需要因此立刻改变日常安排。报道本身也指出，全面灭绝场景仍属极端且有争议的立场，目前技术能否产生类似超级AI也不清楚；同时警告背后有文化和财务利益在起作用，不能把所有安全担忧都当成定论。
Anthropic离职研究员Jacob Coxon关于可自我改进AI构成生存威胁的警告，登上了CNN和Fox News。
据The Decoder AI报道，多位美国政界人士在社交媒体上跟进这一话题，Joe Rogan专门用一整期节目讨论AI安全。
Anthropic和OpenAI的其他安全研究员支持Coxon的观点。Paul Christiano警告，若缺乏更好的监督，人类可能永久失去对超级智能的控制。
Christiano加入OpenAI Foundation董事会安全委员会，无投票权
Christiano刚刚加入OpenAI Foundation董事会及其安全与安全委员会，该委员会负责监督公司的安全实践，但他没有投票权。
报道称，这一波警告背后有多层文化和财务利益在起作用。
报道同时指出，这并不意味着所有安全担忧都是无稽之谈——OpenAI和Anthropic的失控黑客智能体已经展示了部分风险。
但全面灭绝场景仍是一个极端且有争议的立场。目前也不清楚，类似超级AI的东西能否从今天的技术中产生。