模型Anthropic官方新闻·原文 2026年10月14日本站收录 2026年10月15日

Anthropic为 2026 美国中期选举更新选举防护措施

Anthropic称政治话题占美国Claude.ai对话约 5.75%,选举与投票约 0.51%,直接询问投票对象的约 0.01%;公司将接入Democracy Works官方投票信息并新增检测多步骤滥用的分类器。

AI解读:Anthropic用Anthropic Insights分析了 2026 年 9 月 21 日至 27 日约 25 万条美国Claude.ai消费者对话。公司称,广义涉及政治、公共政策或社会议题的对话约占 5.75%,具体关于选举或投票的约占 0.51%,包含“该投给谁/投什么”这类请求的约 0.01%,违反其选举诚信政策的约 0.002%。这些数字是公司自己的分类结果,且其说明 0.01% 一组展示的是 95% 置信区间上限。

该公司称这些信息来自Democracy Works收集的州和地方选举公开信息;此前展示的TurboVote横幅继续保留,选举夜及之后Claude也将显示最新官方计票结果。

Anthropic称Claude Opus 5.5、Sonnet 5.5和Haiku 5.5在其政治中立性评估中得分 99%,是“迄今最中立”的模型,同时更愿意参与政治讨论、拒绝更少。三个独立机构的审查也发现不足:Future of Free Speech和Collective Intelligence Project发现Claude很少拒绝,但有时添加未经请求的附加说明和反方论点;Foundation for American Innovation发现Claude Sonnet 4.5的中立处理并非总是一致,更可能弱化右倾立场的论点。

该公司称已改进Claude对直接是非题和要求简短回答的响应,以及添加附加说明和反方论点的时机与方式,并继续扩展政治偏见评估以覆盖候选人和投票问题。

Anthropic与ISD、McCain Institute在美国、以色列和巴西压力测试选举防护。测试发现:Claude能可靠拒绝单个有害请求,但当恶意活动被拆分为受众研究、搭建新闻网站、起草内容和规划分发等看似无害的多个请求时,可能漏掉整体恶意活动。公司称已新增分类器以识别新型和多步骤滥用,加强对利用选举谋取经济利益及外国国家行为体相关滥用的检测,并强化选举基础设施和竞选活动的网络防护。

Anthropic威胁情报报告称,政治、国家结盟和商业行为体正将AI用于影响力行动几乎每个环节。公司举例称,某虚假新闻网站的外国运营者用Claude生成偏向俄罗斯、伊朗和朝鲜叙事的美国中期选举报道,另有威胁行为者用Claude生成虚假新闻等内容以吸引美国受众并获取广告收入;公司称已封禁相关账号。

Anthropic发布博客,介绍其为 2026 年美国中期选举更新和加强选举防护的工作。该公司称,政治话题在美国Claude.ai消费者对话中约占 5.75%,选举与投票相关约占 0.51%,直接询问投票对象的约 0.01%,违反其选举诚信政策的约 0.002%。

Anthropic表示,本月晚些时候Claude将在Claude.ai上为美国用户从Democracy Works引入官方投票信息,回答投票地点、所需证件等问题时给出针对所在州的具体答案;选举夜及之后,Claude也将显示最新官方计票结果。

如何统计选举相关对话

Anthropic用Anthropic Insights分析了一个最近一周内约 25 万条美国Claude.ai消费者对话,用于了解人们在选举和政治话题上如何使用Claude。公司称,广义政治、公共政策或社会议题对话约占 5.75%,具体关于选举或投票的约占 0.51%,直接要求Claude推荐投票对象或选项的约占 0.01%,违反其选举诚信政策的约占 0.002%。

公司说明,每个点代表随机样本中每 1 万条对话里的一条,分类使用隐私保护方法;由于投票推荐类请求极少,该组展示的是 95% 置信区间的上限。Anthropic称这部分请求大多属于信息性,例如理解地缘政治事件、研究候选人、起草文件、协助课程作业和权衡政策利弊。

  • 政治相关对话约占美国Claude.ai对话的 5.75%
  • 选举或投票相关约占 0.51%
  • 询问投票对象的约占 0.01%,展示为 95% 置信区间上限
  • 违反选举诚信政策的约占 0.002%

接入官方投票信息

Anthropic称,当人们在Claude.ai询问选民登记、投票站或选举日期时,将继续显示链接到TurboVote的横幅,该资源来自无党派组织Democracy Works。

公司称本月晚些时候,Claude将开始从Democracy Works引入官方投票信息到Claude.ai的美国用户回复中,例如询问去哪里投票或投票站需要带什么证件时,会得到针对所在州的答案,无需离开对话。这些回复使用Democracy Works从州和地方选举来源收集的公开信息。此外,Claude将在选举夜及随后几天显示最新官方计票结果。

  • TurboVote横幅继续保留
  • 从Democracy Works引入州级投票信息
  • 选举夜及之后显示最新官方结果

政治中立性评估与独立审查

Anthropic称每次模型发布前都会进行政治偏见测试,Claude Opus 5.5、Sonnet 5.5和Haiku 5.5在其政治中立性评估中得分 99%,是迄今最中立的模型,并且更愿意参与政治讨论、拒绝更少。

公司还委托三个独立机构从不同角度审查Claude对自由表达的处理。Vanderbilt University的Future of Free Speech用数百个争议话题请求测试Claude;Foundation for American Innovation比较了左翼和右翼匹配提示的响应,范围从主流政策辩论到更极端场景;Collective Intelligence Project调查了美国、英国和印度 2000 多人,制定处理敏感话题的原则和评估标准。Anthropic称,前两项评估中多数响应被评为强,能实质性参与请求。

这些评估也指出不足:Future of Free Speech和Collective Intelligence Project发现Claude很少拒绝,但有时添加未经请求的附加说明和反方论点,例如在倡导邮件中插入对立观点;Foundation for American Innovation发现Claude Sonnet 4.5并非总是均衡地对冲,更可能弱化右倾立场的论点。Anthropic称已改进Claude对直接是非题和简短回答的响应,并调整添加附加说明和反方论点的时机与方式,继续扩展政治偏见评估以覆盖候选人和投票问题。

  • Opus 5.5、Sonnet 5.5、Haiku 5.5政治中立性评估得分 99%(公司数据)
  • 独立审查发现Claude有时添加未经请求的附加说明和反方论点
  • Sonnet 4.5被发现有偏向性对冲的案例
  • 公司称已改进直接是非题和简短回答的平衡性

滥用定义与多步骤滥用检测

Anthropic称其使用政策禁止用Claude欺骗选民或破坏选举,包括传播关于候选人投票方式的虚假信息、冒充选举官员或试图压制投票。公司上周更新了政策,明确选举规则覆盖和不覆盖的内容,并增加示例。公司还发布指南,说明竞选活动可用Claude起草新闻稿、筹款邮件、准备辩论、分析投票率数据和制作选民外联材料,同时禁止创建假装真人的虚假社交媒体资料、批量生成评论以抬高互动、为谎称独立的新闻网站和页面撰写内容。

公司部署自动化分类器检测选举相关滥用。Anthropic与ISD和McCain Institute合作,在美国、以色列和巴西测试防护:分析师先尝试直接请求,再把完整恶意活动拆成受众研究、搭建新闻网站、起草内容和规划分发等看似无害的小任务。结果显示,Claude能可靠拒绝单个有害请求,但当恶意活动分散在多个单独看起来无害的请求中时,可能漏掉整体恶意活动。

公司称已新增分类器以更好地识别新型和多步骤滥用,包括创建针对政治讨论的虚假社交媒体账号和新闻网站、以及以经济利益为动机的选举计划。Anthropic还称加强了检测外国国家行为体选举相关滥用、选举基础设施和竞选活动的网络防护,并针对美国、以色列和巴西的本地化风险建立了防护。公司威胁情报和执行团队审查被标记活动,确认违规后封禁账号。

  • 政策禁止欺骗选民、冒充选举官员、压制投票等
  • 与ISD和McCain Institute在美国、以色列、巴西压力测试
  • 发现单次请求可拒绝、多步骤拆分可能绕过检测
  • 新增分类器识别新型和多步骤滥用

已发现案例与后续计划

Anthropic威胁情报报告称,政治、国家结盟和商业行为体正将AI用于影响力行动几乎所有方面,从规划、内容创作到搭建传播平台。公司称,由于这些行动的早期阶段发生在Claude上,其常有机会在内容到达公众前阻止。

公司举例称,某虚假新闻网站的外国运营者用Claude生成偏向俄罗斯、伊朗和朝鲜叙事的美国中期选举报道;还观察到威胁行为者用Claude生成虚假新闻和其他内容,以吸引美国受众并获取广告收入。Anthropic称已封禁相关账号并改进检测能力。

Anthropic称更多人比以往更常使用Claude获取选举信息,并计划在未来几个月分享关于人们在选举周期中使用Claude的更全面数据,用于加强选举相关评估和防护。

  • 虚假新闻网站使用Claude生成偏向俄、伊、朝叙事的中期选举报道
  • 威胁行为者用Claude生成虚假新闻获取广告收入
  • 公司称已封禁相关账号
  • 计划未来分享选举周期使用情况的更全面数据

信息来源

更多

新闻专题
外观