英国AI安全研究所首份前沿AI趋势报告:模型能力激增,通用越狱难度提升约40倍
英国AI安全研究所发布首份《前沿AI趋势报告》,基于两年测试数据量化了最先进AI系统的能力提升,并指出安全防护措施虽有改善但所有测试系统仍存在可被绕过的方式。
关于政策的最新事件与编辑解读。
英国AI安全研究所发布首份《前沿AI趋势报告》,基于两年测试数据量化了最先进AI系统的能力提升,并指出安全防护措施虽有改善但所有测试系统仍存在可被绕过的方式。
AISI自2023年11月起对前沿AI系统进行评估,报告旨在为政府、行业和公众提供基于证据的能力发展分析。
美国国家标准与技术研究院(NIST)发布NISTIR 8596初步草案,聚焦保护AI系统、利用AI增强防御及抵御AI攻击,公开征询意见45天。
成员国在上周圣迭戈会议后同意强化AI测量与评估科学合作,网络由AI安全研究所网络改名为先进AI测量、评估与科学国际网络。
英国科学、创新与技术部(DSIT)10月30日宣布,将在2026/27至2029/30财年间为科研机构提供550亿英镑长期研发资金,其中英国研究与创新署(UKRI)获得超380亿英镑。
Jade Leung将兼任首相AI顾问与AI安全研究所CTO,直接向首相和科学、创新与技术大臣汇报。