11月11日消息,2026 年 11 月 9 日,在法国总统马克龙主持下,爱丽舍宫正式对外发布《巴黎 AI 安全与安全保障倡议》(Paris Call for AI safety and security),8 国政府、十余家全球头部 AI 企业及多家民间机构共同签署该文件,旨在搭建多国多方协作框架,应对前沿 AI 模型带来的跨国界安全风险,延续广岛进程、首尔 AI 峰会、G7 埃维昂 AI 会议、联合国安理会 AI 会议的国际治理工作成果。
倡议指出,前沿 AI 模型的研发、部署与影响天然具备全球化属性,风险无法由单一国家、企业或国际组织独立化解,需要政策制定者、科研人员、AI 企业多方协同,在保障创新与广泛应用的前提下,保护公民、企业与公共机构权益。会议形成三项核心共识:需要清晰可预期的监管框架;必须在透明度、事件上报、风险管理与验证层面拿出可落地的即时成果;要严格落实评估标准。
整套合作框架围绕三大战略承诺展开。
一、共建前沿模型评估与风险管理的通用国际框架
各方承诺在现有治理成果基础上,建立面向前沿模型的共同评估与风险管理体系,配套同步迭代的通用技术标准、评测工具与方法论,重点缓解网络、CBRN(化学‑生物‑放射‑核)领域的恶意滥用风险,以及模型自主性提升、对齐失效带来的失控隐患。
文件提出将发挥NAAIMES(先进 AI 测量评估与科学国际网络)作用,推动不同地区国家评估方法与结果具备可比性、可获取。签署方同意以标准化格式公开评估中非敏感结果,搭建公开共享存储库,收纳红队测试协议、基准工具、风险评估与压力测试结果,推动安全评测成果互通。
二、落实全生态责任划分,覆盖模型完整生命周期
倡议确立 “按 AI 生态内角色承担对应责任” 原则,要求模型全生命周期遵守主管当局认可的安全标准,接受可信独立第三方评估,以此建立多方信任。
1. 政策制定方:完善法律条文,厘清 AI 造成大规模损害后的权责划分,处理跨境伤害纠纷,同时给 AI 企业明确的法律预期。
2. 前沿模型开发企业:
- 披露模型能力、局限、已知风险,视风险等级配合合格第三方开展模型评估;
- 部署故障安全关停机制,可对自己管控下的模型执行限制、暂停乃至关停,覆盖训练、内部使用阶段;
- 正视安全防护被绕过、移除的风险,同时兼顾开源权重对于科研创新、安全研究的价值;
- 建立内部治理机制,落实持续风险管理、新兴能力实时监控、常态化内部红队测试,保护内部研究人员的上报渠道,搭建权责清晰、资源充足、具备独立监督的治理架构。
三、搭建信息共享、事件上报与风险早期预警体系
依托现有网络安全事件响应机制,建立快速警报系统,防范系统性风险连锁扩散,形成集体应对新兴威胁的能力,降低 AI 安全事件现实危害。
各方将对齐安全事件分类口径,打通企业‑政府、政府之间、企业之间的信息通道,及时共享严重网络事件、AI 失控事故,以及重大伤害的前置预警信号,同时探讨长效合作机制的建设边界。政策制定方需要设立安全保密渠道,保障内部举报人能够合理上报系统性风险,免于职业与法律层面打击报复。
签署参与主体
- 国家政府:巴林、加拿大、芬兰、法国、挪威、荷兰、塞浦路斯、肯尼亚;
- AI 企业:Anthropic、Black Forest Labs、Cohere、Domyn、Hugging Face、Microsoft、Mistral AI、OpenAI、Sakana AI、Synthesia;
- 民间社会组织:LawZero、SaferAI、AI Safety Connect、Ifri、Geopolitical Center for the Datasphere、GPAI Policy Lab、CeSIA。
该倡议属于自愿性政治承诺,不具备法律强制效力,文件对新的参与方保持开放,后续名单会持续更新。
该倡议承接近年全球多场 AI 安全峰会成果,重点把前沿模型关停机制、第三方独立评测、安全事件跨境通报、举报人保护落到书面承诺层面,进一步推动 AI 安全评测、压力测试结果公开化。



