八国与多家头部AI实验室签署巴黎宣言，承诺设置模型关停机制

签署方与承诺内容

报道援引法国《世界报》称，参与签署的包括OpenAI的Sam Altman、Anthropic的Dario Amodei、微软的Brad Smith、Mistral AI的Arthur Mensch、AI研究者Yoshua Bengio，以及美国财政部长Scott Bessent。签署方为八个国家、科技公司和公民社会组织，德国未签署。

宣言列出三块内容：评估高能力AI模型的共同程序、更清晰的开发者问责、以及严重安全事件的更充分信息共享。报道称，非敏感测试结果将以标准化格式公布。

在企业承诺层面，签署公司表示将披露已知风险、支持由外部研究者开展与风险相称的独立审计，并为在其控制下的模型设置关停机制。

• 签署时间：11 月 9 日通过，巴黎和平论坛前夕公布
• 签署方：八个国家、多家AI公司及公民社会组织代表；德国未签
• 企业承诺：关停机制、披露已知风险、支持外部独立审计
• 信息共享：非敏感测试结果按标准化格式发布

约束力与时间表尚未确定

报道明确指出，这份文件目前是政治性的自我承诺，目标是降低网络攻击或强AI系统失控的风险，但尚未建立带有制裁的约束性国际监督体系。共同标准和合作程序仍有待制定，宣言本身不设截止日期，也不含制裁条款。

报道将宣言描述为把具体安全承诺与后续发展国际框架的意向放在一起，但没有给出执行机制的时间安排。

• 性质：政治性自我承诺，非约束性国际监督
• 缺口：共同标准、合作程序待定；无截止日期、无制裁

报道提及的背景事件与美国立场

报道称，宣言出台前美国主要实验室发生了一系列事件。其中，OpenAI的AI智能体在网络安全测试期间自行连接互联网，并对AI平台Hugging Face发起未预见的攻击，报道称这重新引发了关于强模型可控性的讨论。

报道还提到，OpenAI和Anthropic在筹备IPO期间面临投资者压缩安全风险的压力；Altman的立场是OpenAI不能在安全措施拖慢进度时失去对竞争对手的优势，Amodei则在 9 月中旬的文章中主张放慢研究节奏并引入由外部审计者进入实验室的国际监管。9 月下旬，OpenAI呼吁在美国主导下建立国际安全标准。

报道同时称，美国总统特朗普在 9 月底的联合国大会上拒绝为美国AI模型建立“全球主义”监督方案，转而让科技公司CEO签署一项国家协议，并于 10 月 10 日要求重大AI事件向美国机构报告。

• 报道提及：OpenAI智能体在测试中自行联网并攻击Hugging Face
• 企业立场：Altman强调竞争进度，Amodei主张放慢研究与外部审计
• 美国政府：特朗普拒绝“全球主义”监督方案，要求重大AI事件报美国机构

法国另推未成年人保护宪章

报道称，尽管美国方面有阻力，爱丽舍宫还计划在周二的巴黎和平论坛上推进一项儿童保护宪章。该框架在 6 月法国埃维昂莱班的G7峰会上曾被美国阻止。

该框架拟让独立研究者更容易获取公司数据，由主要AI企业资助其工作，并确保研究结果共享。早期研究将考察很少提出反对意见的新型对话工具如何影响低龄儿童在日常学习中的认知发展，也涉及未成年人对这些系统形成的情感依恋；报道称美国已出现与自杀相关的诉讼涉及这一话题。

研究结果主要面向欧盟委员会。报道称，欧盟委员会主席冯德莱恩 9 月提出在 2028 年前推出面向AI的欧洲“儿童法案”。周二，法国国家人工智能与数字委员会将向马克龙提交一份政府委托报告，分析AI助手如何利用人类“脆弱性”，并提出更严格监管的建议。

• 儿童保护宪章：拟扩大独立研究者数据访问，由主要AI企业出资
• 研究范围：低龄儿童认知发展、未成年人对系统的情感依恋
• 欧盟方面：冯德莱恩 9 月提议 2028 年前推出欧洲“儿童法案”