Anthropic更新使用政策:明确禁止反复辱骂模型与干预选举
TechCrunch报道,Anthropic周四更新使用政策,将选举干预、武器软件、监控以及“反复对模型进行言语辱骂”列入禁止范围;公司称辱骂条款仅适用于极端情形,不涉及普通用户不满或测试研究。
AI解读:最受关注的变化是新增禁止“长时间对模型进行言语辱骂”;自8月更新以来,Claude已被训练可终止与“持续有害或辱骂性用户交互”的对话,新政策则明确禁止用户发起这类对话。
Anthropic在帖文中解释,该条款仅适用于极端情况,即用户反复以残酷方式对待模型且没有可辨明的目的;不适用于常见的用户挫败、反驳、黑暗创作主题或模型测试与研究。
报道提到,这一变化出现在Anthropic寻求与知名宗教学者合作之后,部分合作中公司试图说服学者相信Claude可能有意识或有灵魂。
使用政策其他部分禁止用户借助Claude开展广泛欺骗性活动,例如运营虚假账号或伪造新闻媒体,并在“不要破坏民主进程”的章节中列入禁止欺骗选民或扰乱选举的规则。
TechCrunch报道,Anthropic周四更新其使用政策,将选举干预、武器软件和监控等行为明确列为禁止事项。其中最受关注的新增条款是禁止“长时间对模型进行言语辱骂”。
新政策明确禁止长时间辱骂模型
TechCrunch称,自8月更新以来,Claude已被训练为在遇到“持续有害或辱骂性用户交互”时结束对话;新政策则进一步明确禁止用户主动追求这类对话。
Anthropic在相关帖文中解释,这项政策更新仅适用于极端情况,即用户反复以残酷方式对待模型,且没有可辨明的目的。该条款不适用于常见的用户挫败、反驳、黑暗创作主题,也不适用于模型测试和研究。
选举、欺骗与武器监控条款
使用政策的其他部分禁止用户开展广泛欺骗性活动,例如利用Claude运营虚假账号或伪造新闻媒体。报道还提到,政策在名为“不要破坏民主进程”的章节中,列出了禁止欺骗选民或扰乱选举的规则。
政策变化与宗教合作有关联
TechCrunch报道,这一变化出现在Anthropic寻求与知名宗教学者合作之后。报道称,在部分合作中,公司试图说服学者相信Claude可能有意识或有灵魂。