微软总裁史密斯呼吁紧急监管AI，称英国比美国和欧盟更适合牵头
微软总裁布拉德·史密斯在BBC播客中表示，AI兼具“武器与工具”属性，正威胁全球网络安全，“时刻已经到来”，应建立全球安全规则；他认为英国而非美国或欧盟最适合牵头，并支持外部评估、断网开关等具体措施。
AI解读：史密斯称AI既是“武器”也是“工具”，正在危及全球网络安全，并认为制定全球安全规则的“时刻已经到来”。
史密斯表示，英国而非美国或欧盟最适合牵头制定全球AI安全规则，理由是华盛顿对伦敦的看法不同于对布鲁塞尔的看法，这构成一种优势。
英国AI安全研究所（AISI）2023年成立，可在美国前沿实验室的模型部署前获得访问权限；AISI周一确认仍能访问和测试最新模型。
史密斯称白宫让科技公司签署的“道德约束”文件是“良好一步”，但不足以替代必要监管；自愿自我约束的问题在于只有“好公司”会遵守。
史密斯提出的措施包括：系统被失控AI代理攻破时通知相关组织的法律义务、AI产品发布前获得外部评估者批准，以及对暂停或减缓AI的断网开关持积极态度。
微软总裁布拉德·史密斯（Brad Smith）在BBC播客中呼吁对AI进行紧急监管，称牛奶和洗衣机等消费品受到的监管比构建AI的公司更多。
史密斯将AI称为“武器和工具”，认为它正在危及全球网络安全，并表示制定全球安全规则的“时刻已经到来”。
史密斯称英国最适合牵头全球AI安全规则
史密斯表示，英国而非美国或欧盟最适合牵头制定全球AI安全规则。他告诉BBC：“在华盛顿特区，人们看待英国和伦敦的方式不同于看待布鲁塞尔。那是一种优势。”
英国AI安全研究所（AISI）于2023年成立，可在美国前沿实验室的模型部署前获得访问权限，并已成为AI安全测试领域的领先者。
该机构的角色近几周受到威胁：美国总统唐纳德·特朗普警告反对“全球主义者”组织，称其干涉美国公司；据报道，他上月要求Anthropic和OpenAI向英国测试人员扣留新模型。AISI周一确认，它仍能访问和测试最新模型。
史密斯：自愿自我约束只有“好公司”会遵守
史密斯的评论正值科技领袖呼吁放缓AI开发节奏之际，其中包括Anthropic的达里奥·阿莫代伊（Dario Amodei）和OpenAI的山姆·奥尔特曼（Sam Altman），此前发生了多起AI代理失控事件。
上月，特朗普在白宫接待了OpenAI、Anthropic、英伟达、AMD、SpaceX、Meta和谷歌等公司的科技领袖，讨论AI安全。他们签署了一份“道德约束”文件，同意与“独立审计员”合作评估其AI模型的安全性和能力。
史密斯称该文件是“良好一步”，但未达到必要监管的程度。他说，自愿自我约束的问题在于只有“好公司”会遵守，“你需要担心的是那些不那么负责任的公司”。
史密斯提出的具体措施
史密斯列举了几项他希望实施的AI安全规则。其中包括：如果系统被失控AI代理攻破，相关组织负有法律义务发出警报。
他似乎还支持AI实验室在AI产品发布前获得外部评估者的批准，并对在人类失去对AI控制时暂停或减缓AI的断网开关（kill switches）持积极态度。
史密斯说：“让我们冷静地、甚至温和但坚定地说话，开始把人们聚在一起。我希望这是我们公司能扮演的角色，我希望这是英国作为一个国家能扮演的角色。”