美中专家联合提议：禁止AI自主决定动用核武器
布鲁金斯学会与复旦大学学者在特朗普与习近平预计会晤前发布具体提案，为AI在核武器与战略基础设施中的使用划定红线，但约束机制目前仍不存在。
AI解读：美中两国专家联合提出了一系列禁止AI自主控制核武器的具体红线，包括不允许任何AI系统自行发射核武器或攻击核指挥系统。这一提议出现在特朗普与习近平预计9月24日会晤之前，属于学者层面的政策建议，并非政府间协议。
提案还要求人类对AI驱动的针对战略基础设施的网络攻击保持唯一控制权，两国应就“人类控制”的共享定义达成一致。这些建议延续了拜登与习近平在2024年11月达成的共识。复旦大学姜天骄还提议设立AI事件热线，避免防御性AI自动响应被对方误读为攻击。
值得注意的是，类似的担忧早在2021年就由美国人工智能国家安全委员会提出过，但至今没有具有约束力的机制落地。约翰霍普金斯大学的Carla Freeman更直接质疑热线能否奏效——2023年间谍气球危机期间，中方就没有接听美方电话。提案本身有具体的红线清单，但执行层面仍缺少可验证的约束手段。
布鲁金斯学会的Melanie Sisson与复旦大学的姜天骄在美国总统特朗普与中国国家主席习近平预计于9月24日会晤前，联合发布了一份关于AI与核武器的政策提案，明确提出多条红线：任何AI系统都不得自主发射核武器或攻击核指挥系统；人类必须对AI驱动的针对战略基础设施的网络攻击保持唯一控制权；两国应就“人类控制”的共享定义达成一致。
这些建议建立在拜登与习近平2024年11月达成的相关共识之上。姜天骄还提议设立一条AI事件热线，用于在防御性AI系统自动响应可疑活动、可能被对方误读为攻击时，让一国政府能够直接澄清事件属于意外，防止局势升级。
提案作者指出，这并非首次有人发出此类警告。美国人工智能国家安全委员会（NSCAI）早在2021年就呼吁保留人类对核武器的控制权，但至今仍不存在具有约束力的机制。约翰霍普金斯大学的Carla Freeman对热线能否真正发挥作用提出质疑，她提到2023年间谍气球危机期间，中方没有接听美方的电话。