论坛·原创 | 从国际人工智能峰会看治理趋势变化

文 | 中国信息通信研究院安全研究所高级工程师 陈湉；中国信息通信研究院安全研究所工程师 秦博阳

首届人工智能安全峰会（AI Safety Summit）于2023年在英国举行，发布了全球第一份针对人工智能的国际性声明《布莱切利宣言》（The Bletchley Declaration），并启动了多项与人工智能安全相关的国际合作。2024年，韩国举办了人工智能首尔峰会（AI Seoul Summit）。2025年，法国举办了巴黎人工智能行动峰会（AI Action Summit）。这三次峰会具有关联性和延续性，且在参会规模和议题设置方面逐步拓展，逐渐发展为新的人工智能全球治理平台。本文梳理了历届峰会的召开情况，从治理目标、治理模式和治理成果三个方面分析了三届峰会的演进变化，力图描述各次峰会呈现的人工智能国际治理趋势。我国在人工智能国际治理领域应继续发挥积极且建设性的作用，与其他国家携手推动人工智能国际治理规则共识的形成。

人工智能技术一直以来受到国际社会的广泛关注，多个国际组织已启动相关治理进程。国际电信联盟（ITU）自2017年起每年举办人工智能向善（AI for Good）全球峰会，旨在解决人工智能造福人类的挑战，促进人工智能技术的加速成熟。联合国教科文组织（UNESCO）2021年发布《人工智能伦理问题建议书》（Recommendation on the Ethics of Artificial Intelligence），并通过支持举办“全球人工智能伦理论坛”推动人工智能伦理治理的国际合作和政策协调。经济合作与发展组织（OECD）也将人工智能领域作为重要主题持续开展研究，并在2019年发布了政府间政策指导文件《人工智能原则》（AI Principles），促进使用具有创新性、可信性并尊重人权与民主价值观的人工智能技术。由七国集团（G7）成员国法国和加拿大发起，15个国家或组织于2020年成立了全球人工智能合作伙伴（GPAI），旨在促进政策制定者和人工智能专家之间的交流，弥合政策与实践之间的差距。

2022年，OpenAI推出了GPT-3.5，引发了国际社会对前沿人工智能技术安全性的普遍担忧。特别是网络安全威胁、生物武器滥用、虚假信息传播、隐私和数据泄露等方面的潜在风险，可能对人类生存产生重大影响。在此背景下，英国为提升其在人工智能安全领域的国际领导地位和话语权，积极发起并举办了首届人工智能安全峰会，并将会议地点选在布莱切利庄园，旨在强调英国在人工智能领域的历史地位和贡献。随后，韩国、法国分别举办了第二届和第三届峰会。历时三届，峰会逐步发展成为人工智能安全与治理领域的重要国际会议。

（一）首届人工智能安全峰会

首届人工智能安全峰会于2023年11月1日至2日在英国布莱切利庄园召开。来自美国、中国、德国、印度等20多个国家的政府代表，以及联合国、OECD、ITU等多个国际组织的代表、人工智能企业代表和专家等100多人参会。峰会聚焦人工智能的风险，特别是前沿人工智能技术的风险，讨论了如何通过国际协调行动缓解这些风险。峰会的成果之一是《布莱切利宣言》。该宣言由28个国家或国际组织签署，关注未来强大的人工智能模型可能对人类生存构成的威胁，并呼吁通过国际合作应对这些风险。同时，峰会启动了《国际人工智能安全报告》（International AI Safety Report）的编写工作，由图灵奖得主、蒙特利尔大学教授约书亚·本吉奥（Yoshua Bengio）牵头，来自30个国家100多位人工智能专家共同参与编写。此外，峰会促进了世界各国政府主导的人工智能安全机构的兴起。美国和英国在峰会前后相继宣布成立人工智能安全研究所，并于次年4月签署谅解备忘录，宣布达成“人工智能安全科学合作伙伴关系”，进一步推动形成《布莱切利宣言》倡导的国际性前沿人工智能安全科学研究网络。

（二）人工智能首尔峰会

人工智能首尔峰会于2024年5月21日至22日在韩国首尔召开，由韩国与英国共同主办，以“安全、创新、包容”为主题。来自澳大利亚、加拿大、法国、美国、欧盟等国家或地区的政府代表，以及联合国、OECD等国际组织的代表，谷歌、特斯拉、OpenAI、三星等科技企业的代表和专家学者参会。首尔峰会取得的成果包括由英国、美国、韩国等10个国家及欧盟签署的《关于安全、创新和包容性人工智能的首尔宣言》（Seoul Declaration for Safe, Innovative and Inclusive AI）（以下简称《首尔宣言》）。该宣言呼吁加强国际合作与对话，利用以人为中心的人工智能应对全球挑战，保护和促进民主价值观、法治、人权、基本自由和隐私，弥合数字鸿沟，推动联合国可持续发展目标的实现。《首尔宣言》还包括一份附件《首尔人工智能安全科学国际合作意向声明》（Seoul Statement of Intent toward International Cooperation on AI Safety Science）（以下简称《首尔声明》），明确强调国际合作和协作对人工智能安全科学研究的重要性，并通过在主要合作伙伴之间建立国际网络，加速人工智能安全科学的进步。在《首尔声明》的基础上，美国商务部部长在峰会上宣布成立“人工智能安全研究所国际网络”，旨在推动人工智能安全科学研究的国际合作。此外，峰会的另一项成果是由16家顶尖人工智能科技公司签署的《前沿人工智能安全承诺》（The Frontier AI Safety Commitments）。签署企业承诺建立负责任的内部治理结构并保持透明度，评估前沿人工智能模型的风险，并明确风险缓解机制。

（三）巴黎人工智能行动峰会

巴黎人工智能行动峰会于2025年2月10日至11日在法国巴黎大皇宫举行，由法国和印度联合主办，来自100多个国家和地区的领导人、国际组织、民间社会代表、私营部门以及学术和研究界人士等超过千人参会。峰会设立了三个核心目标：为广大用户提供独立、安全、可靠的人工智能服务；开发更加环境友好的人工智能；确保人工智能全球治理有效且包容。同时，峰会围绕这三个核心目标，设置了为公共利益的人工智能、未来工作、创新与文化、可信的人工智能、人工智能国际治理五个核心主题。巴黎峰会的主要成果包括由中国、法国、印度、欧盟等60个国家或国际组织共同签署的《关于发展包容、可持续的人工智能造福人类与地球的声明》（Statement on Inclusive and Sustainable Artificial Intelligence for People and the Planet）（以下简称《巴黎声明》）。声明确立了“科学导向、解决方案聚焦、国际规范遵循”三大原则，就促进人工智能可及性、确保人工智能开放包容安全并值得信赖、为人工智能发展创造条件、加强国际合作等六个优先事项达成共识，并围绕这些优先事项确定了具体行动，例如建立公共利益人工智能平台和孵化器、设立人工智能对能源影响的观察站等。此外，峰会期间宣布启动了两个重要的国际合作项目。一个是由法国政府、联合国环境规划署（UNEP）和ITU共同发起，37家科技企业、10个国家等91个成员组成的“环境可持续人工智能联盟”，旨在解决人工智能开发对环境的影响问题，并寻求在国际讨论中将可持续人工智能议题提升到与人工智能安全和道德同等重要的地位。另一个是由全球公共和私营部门合作的“当前的人工智能”（Current AI）计划，旨在通过人工智能技术解决社会关键问题，服务公共利益。Current AI计划已获得来自法国政府、多家慈善机构、谷歌等科技企业的4亿美元初始投资，并计划在未来五年内筹集25亿美元，用于支持全球范围符合公共利益的人工智能项目。

从英国布莱切利到韩国首尔，再到法国巴黎，三届峰会呈现了人工智能国际治理的趋势，正朝着更广参与、更大影响力方向发展，在治理目标、治理模式、治理成果等方面均呈现明显的变化。

（一）治理目标：从安全向更全面的目标拓展

首届人工智能安全峰会聚焦人工智能系统的安全风险。首尔峰会将主题从“安全”扩展至“创新、包容”，但依然主要围绕“安全”设置会议议题。巴黎峰会的会议目标和会议主题则扩展至人工智能治理领域的方方面面，不仅包括人工智能对公共利益的影响、对劳动力市场和文化产业的影响，还涵盖了利用人工智能解决气候变化问题，确保人工智能安全、透明、公平，以及促进人工智能治理国际合作等议题。

峰会议题的变迁和拓展反映了人工智能国际治理话语权的竞争。英国举办首届人工智能安全峰会的目的之一是提升其在人工智能安全领域的领导地位，并为欧盟和美国人工智能治理监管路径之外提供第三条道路。在首尔峰会期间，英国仍在努力加强自身影响力，称人工智能安全研究所的兴起和研究网络的建立为“布莱切利效应”。然而，在巴黎峰会时，主办国法国取得了更强的主导权，将英国的影响力排除在外，不仅将自身关心的气候变化议题纳入会议讨论，还大幅扩展了会议主题，降低了安全议题的比重。这表明法国希望将峰会打造成一个更全面的人工智能国际治理平台，并利用其在欧盟的领导地位，提升法国乃至整个欧盟在人工智能产业方面的竞争力和国际治理中的话语权，成为中美之外的第三支重要力量。

（二）治理模式：包容性取代封闭“小圈子”

在首届人工智能安全峰会上，由28个国家或国际组织签署的《布莱切利宣言》被认为是人工智能安全领域标志性的国际治理成果，但是，在首尔峰会上，这一治理进程发生了倒退。与“包容”这一会议主题相悖，何文翔和李亚琦的文章《首尔峰会之后：全球AI安全治理的现状、权力与路线之争》指出，首尔峰会的领导人会议仅对“受邀国”开放，包括中国在内的非美西方阵营国家被排除在《首尔宣言》文本讨论之外，导致最终只有11个国家或国际组织签署了《首尔宣言》，签署国数量比《布莱切利宣言》减少了一半多。首尔峰会的封闭性反映了美国等西方国家争夺人工智能国际治理主导权的态势。其背后的动因还在于人工智能技术产业的国际竞争日趋激烈。此外，《首尔宣言》明确支持七国集团制定的《广岛进程国际行为守则》作为开发先进人工智能系统的组织应当遵守的行为准则，体现了美国等西方国家意志主导治理规则的明显意图。

在西方阵营内部，各国和组织的立场并非完全一致。例如，美国与欧盟在人工智能监管思路和治理理念上存在明显差异。因此，法国主导的巴黎峰会再次回归开放、包容的治理模式。参会国家或地区的数量，参会组织的多样性，以及《巴黎声明》签署国家和国际组织的数量，都展现了巴黎峰会的包容性。此外，隶属于峰会的百场会外活动极大丰富了会议的内容和讨论议题。《巴黎声明》明确提出，人工智能治理需要多利益相关方的对话与合作，除政府部门外，还广泛吸纳私营部门、民间团体、学术界等代表，共同探讨人工智能治理问题。巴黎峰会的包容性和开放性还体现在对联合国、OECD等国际组织关于人工智能的多边倡议的认可上。

（三）治理成果：从理念迈向行动

以首届人工智能安全峰会为发端，历届峰会的成果逐步从文本走向实际行动。前两届的峰会的成果多停留在文本层面，《布莱切利宣言》和《首尔宣言》的内容更偏向理念性，缺少实际行动部署；而16家科技公司签署的《前沿人工智能安全承诺》，也缺少后续的监督机制，仅靠公司的自觉性难以确保承诺真正落实到位。不过，也要看到，各国在峰会框架下已经开展了一些实际工作。例如，在首届人工智能安全峰会后，英国和美国宣布设立人工智能安全研究所。随后，日本、加拿大、韩国等国家也相继表示将设立各自的人工智能安全研究所。在首尔峰会上，人工智能安全研究所国际网络正式成立，标志着人工智能安全科学研究的国际合作正式启动。2024年11月，在美国举办的研究所网络首次会议公布的成果包括对基础模型进行首次联合测试，启动了减轻合成内容风险的联合研究议程等实际工作。

巴黎峰会则更加强调“行动”。《巴黎声明》明确提出了建立公共利益人工智能平台和孵化器，与国际能源署合作设立人工智能对能源影响的观察站，建立人工智能对就业市场影响的观察站网络等具体行动，旨在实现声明提出的六个优先事项。此外，“环境可持续人工智能联盟”的成立以及Current AI计划的启动，也反映了巴黎峰会在推动人工智能国际治理和合作方面开展了实质性的工作。

国际人工智能峰会历经三届，取得了包括多个宣言、声明、自愿性承诺、安全研究报告等系列成果，推动了人工智能安全科学研究和国际治理合作。然而，这些治理成果能否真正推行，历届峰会成果之间是否能够形成继承性和延续性，还需要探索建立常态化的工作机制保障实施。此外，在巴黎峰会上美国和英国拒绝签署《巴黎声明》的情况是否会引发西方阵营的内部分化，进而影响峰会举办无以为继，仍需进一步观察。

当前，联合国及其专业组织、OECD、G7等国际或区域组织已开始开展人工智能治理相关工作。展望未来，在治理议题方面，峰会如果能更多考虑发展中国家的需求，帮助发展中国家在人工智能技术变革浪潮中获得红利，并广泛吸纳发展中国家参与人工智能治理规则的讨论，将有可能推动峰会在人工智能国际治理领域发挥更大作用。在治理模式方面，借鉴世界信息社会峰会（WSIS）的治理经验，峰会如果能够既强调政府的领导角色和责任，又广泛吸纳多利益相关方的参与，也有助于峰会扩大国际影响力。

中国一直关注人工智能治理问题，呼吁通过对话与合作凝聚共识，构建开放、公正、有效的治理机制，并致力于在联合国框架下团结全球多元主体参与治理。在人工智能安全领域，中国已开展大量研究工作，积累了相应基础，并于2024年9月成立了中国人工智能发展与安全研究网络。在巴黎峰会上，中国的研究网络成功主办了以“人工智能技术及其应用发展”为主题的官方边会，获得了中外专家的高度评价。借此契机，可以依托中国人工智能发展与安全研究网络与其他国家的人工智能安全研究所加强技术交流，探索开展联合研究、联合测试、人才培养等合作，推动相关人工智能安全科学研究成果纳入联合国框架下的治理工作，进一步发挥中国在全球人工智能治理中的关键性和建设性作用。

（本文刊登于《中国信息安全》杂志2025年第2期）

分享网络安全知识 强化网络安全意识

欢迎关注《中国信息安全》杂志官方抖音号