人工智能安全治理的国际经验和启示

一、主要国家、经济体和国际组织人工智能安全治理举措

为应对人工智能技术催生的数据隐私、算法偏见、伦理冲突及国家安全威胁等多维度安全风险，全球主要国家、经济体和国际组织构建了适应国情的治理框架，形成了六大安全治理举措。

（一）主要国家抢抓人工智能治理主导权

全球主要国家纷纷制定具有域外效力的监管规则，开展各具特色的人工智能安全治理。美国打造“治理样板”，联邦政府设立首席人工智能官、完善治理标准等加速打造全球人工智能治理标杆。以“美式”价值观构建治理叙事架构，在提请联合国大会审议的人工智能监管决议中强调，以“人性、尊严、安全”为原则创建部署人工智能，意图通过舆论获得国际社会广泛支持。英国致力于在美国和欧盟之间开辟第三条道路，率先签署《关于人工智能风险的声明》，举办首届全球人工智能（AI）安全峰会——布莱切利峰会，与28个国家共同发布了《布莱切利宣言》，促使各国在建立人工智能安全监管底线等方面达成共识，为人工智能监管的国际化标准奠定基础。韩国随后发布全球第二部人工智能监管法规《人工智能开发和建立信任法案》，要求境外经营者书面指定当地代表履行人工智能合规义务，参照欧盟实施基于风险的监管方法，意图在全球范围内规范人工智能治理。全球政策制定者加大监管力度，加速建立硬性法律约束和完善的风险防控体系：美联邦机构在2024年出台了59项人工智能相关法规，是2023年的两倍多，日本发布《人工智能企业指南》，新加坡发布《生成式人工智能治理模型框架》，澳大利亚发布人工智能监管草案，加拿大出台《人工智能和数据法》，人工智能立法走上快车道。

（二）国际组织构建区域治理联盟

主要经济体和国际组织聚焦透明度、可信赖性、公平性等核心议题，纷纷明确治理原则和框架。联合国强调以人工智能伦理为原则，发布《以人为本的人工智能治理》报告；第78届联合国大会协商一致通过中国主提的加强人工智能能力建设国际合作决议，坚持人工智能技术发展要把准以人为本、智能向善、造福人类的方向，倡导发挥全球合作力量，缩小全球数字鸿沟。欧盟发布《人工智能法案》（2024年7月），这是全球首部全面监管人工智能的法规，设定了四个风险等级细化监管规则，对全球各国产生深远影响。为巩固在现行治理体系中的领导地位，欧盟以区域合作为依托，积极参与构建人工智能安全治理领域的跨国双多边合作机制，比如与美国共同发起三个针对可信赖人工智能监测评估、技术开发和理论研究的项目；与国际标准化组织和国际电工委员会合作制定人工智能安全评估新型标准，搭建了更广泛、更平等的全球性、区域性、渐进性的合作机制。七国集团为人工智能治理“筑高墙”，七国集团领导人在“广岛人工智能进程”部长级论坛启动了制定人工智能行为准则的工作，召开仅对“受邀国”开放的首尔峰会，将中国及其他非美西方阵营国家排除在讨论之外，构建科技“小圈子”。金砖国家继续落实2018年“新工业革命伙伴关系”，进一步制度化人工智能安全治理合作，成立金砖国家人工智能研究小组、数字经济工作组等研究团队，为完善人工智能全球治理提出共同方案。北约发布新版《人工智能战略》（2024年7月），深化成员国内部技术使用与治理策略共识。经济合作与发展组织（OECD）发布并更新《人工智能原则》，组织全球47个国家承诺遵守促进创新、值得信赖、尊重人权和民主价值观的原则。

（三）加强“敏捷治理”软性社会规范

各国采取“边发展、边治理，边摸索、边修正”的方式，实现自适应、以人为本、可持续的敏捷治理，更好契合人工智能安全治理需求。美国联邦政府灵活运用总统行政令等“软法”工具，明确人工智能治理顶层设计和伦理基本原则，引导行业自治。行业协会组织制定详细可操作的标准指南，国际电气与电子工程师协会（IEEE）制定《人工智能设计的伦理准则》，国际计算机学会（ACM）下设的全球技术政策委员会（TPC）发布《生成式人工智能技术原则》，人工智能促进会（AAAI）制定《道德原则与行为准则》，为人工智能开发部署提供分类指导。同时，2023年7月拜登政府召集亚马逊、Anthropic、OpenAI等7家头部人工智能公司，发布自愿承诺，强化行业自我监管意识。英国发布《促进创新的人工智能监管方式》白皮书（2023年3月），强调按照灵活的“按比例监管”方式，使英国成为“建立基础人工智能企业的最佳地点之一”。日本制定《人工智能指导方针》，引导企业预防安全事故，通过表彰优良企业，鼓励企业实现安全监管自律。组织行业协会、技术组织、研究机构配合政府机构制定行业监管标准、开展技术研究、提供咨询服务，保持同政府的密切合作。韩国领军企业发起建立了包括政府部门、公共机构和400多家企业的人工智能行业联盟，促进政府与企业共享人工智能安全研究信息。谷歌联合其他科技巨头建立人工智能行业治理共同体，成立前沿模型论坛。微软内部增设人工智能办公室，人工智能战略管理团队以及人工智能、伦理与工程研究委员会等3个机构负责人工智能治理事务。东盟先后出台《东盟人工智能治理与伦理指南》《新加坡宣言》《东盟人工智能声明》等一系列软法性政策文件。

（四）加快组建专职专业机构

全球依托中央（联邦）政府和地方（各州）政府分级力量开展人工智能安全治理。美国以白宫科学技术政策办公室（OSTP）、国家科学技术委员会（NSTC）、总统科学技术顾问委员会（PCAST）“三驾马车”为核心共同推进人工智能治理顶层设计；设立首席人工智能官（CAIO）为监管提供关键抓手，专人负责规范本领域人工智能风险处置流程并定期开展风险评估等，截至2024年8月，15个内阁部门及36个独立联邦机构完成任命，覆盖率接近七成；新增研究机构构建监管技术标准体系，国家标准与技术研究院（NIST）新设美国人工智能安全研究所，促进可信人工智能系统与技术研究。欧盟委员会设立人工智能办公室，办公室负责与由成员国代表组成的欧洲人工智能委员会密切合作，推动伦理标准制定和实施，定期向欧盟委员会提交高风险系统使用报告。英国加强行业部门间协同监管，由金融行为监管局、信息专员办公室、竞争与市场管理局、平等与人权委员会等部门共同实施监管。日本政府加强与美英政府机构合作，设立政府部门下属人工智能安全研究所和人工智能发展与实用化的项目小组。韩国成立国家人工智能委员会，审议人工智能发展政策；成立人工智能政策中心，制定国际标准；成立人工智能安全研究所，开展安全政策研究和国际合作。

（五）形成全视角全流程安全治理

全球人工智能安全治理覆盖“硬件层—模型层—应用层”全链条，贯穿研发、部署、反馈全周期，采取全方位视角、全流程管理。一是扩展治理视角。2024年，美国从数据隐私延伸到基础设施安全、社会公平普惠出发，分别制定了《关键基础设施中人工智能的角色与职责框架》《关于安全、可靠和值得信赖的人工智能》等框架协议。二是完善治理流程。研发阶段，欧盟要求高风险人工智能系统提交“影响评估报告”，日本人工智能安全研究所聚焦漏洞检测。部署阶段，新加坡成立人工智能验证基金会，联合IBM等企业开发测试工具；美国推行“首违不罚”清单；欧盟委员会下设的人工智能办公室进行实时监管。反馈阶段，非洲联盟建立区域伦理委员会，动态评估人工智能对医疗、农业的影响；欧盟发布《人工智能责任指令》，制定民事赔偿统一规则，解决维权举证难题。三是强化技术全链条防控。欧盟要求智算中心对硬件层实施物理加密与身份认证；美国国防部设立“生成式人工智能工作组”，审查模型层与伦理对齐机制；德国控制应用层人工智能参与程度，比如自动驾驶系统配备人类接管接口。四是全面提升评估技术。新加坡推出人工智能评估框架Veritas、人工智能治理测试框架和工具包人工智能 Verify，以标准化测试工具验证人工智能系统安全性；美国推出Dioptra 1.0用于评估、分析及追踪人工智能风险；全球聚焦研发机器学习框架的安全性评测工具、极端和对抗环境下的算法安全性检测、防御与加固工具。

（六）大力促进基础设施建设以维护人工智能安全

全球主要国家和经济体斥巨资夯实人工智能基础设施建设基石，大力推动人工智能技术发展，以实现人工智能治理安全。欧盟推出“投资人工智能”计划，投入约200亿欧元专项基金，建设5个“人工智能千兆工厂”；推出“数据联盟战略”，建立跨行业“数据实验室”，基于科研数据云开放1 000多家科研机构数据，加快人工智能驱动的科技创新；划拨50亿欧元用于人才培养，推出人工智能学位课程等培训项目，2026年前将人工智能基础课纳入义务教育，培养下一代人工智能专家。美国名为监管、实为助推，发布14110号行政令、《致行政部门和机构负责人的备忘录》等一系列人工智能安全应用的规范性文件，在教育、就业、住房和公共卫生等领域建立起人工智能应用标准，助推相关产业发展。提出“星际之门”计划，美国总统特朗普称之为“史上最大”人工智能基础设施投资项目。2029年前，美国开放人工智能研究中心（OpenAI）将联合美日企业投资5 000亿美元，建设超大规模数据中心等基础设施。法国推出法版“星际之门”计划，阿联酋、美国和加拿大的投资基金以及法国公司将在未来几年对法国人工智能投资达到1 090亿欧元。2025年2月，法国已与阿联酋达成协议，投资300亿～500亿欧元共同建设欧洲最大的人工智能园区，优化两国科技资源配置。加拿大资管巨头公司宣布，将投资200亿欧元在法国建设大型数据中心等基础设施。韩国将投资约28.6亿美元建立国家人工智能计算中心，并为人工智能企业提供约100亿美元政策性贷款；韩国科学技术信息通信部设立约6 200万美元人工智能专项创新基金，投资人工智能产业。

二、对我国的启示

全球人工智能治理对我国开展人工智能规范管理工作提供了可借鉴的经验启示，我国宜坚持包容审慎的态度，把握发展与规制之间的平衡，构建敏捷协同的治理方案，确保技术发展与公共政策的良性互动，防范监管过度掣肘技术进步，构建开放、公正、有效的治理机制。

（一）开展关键技术攻关

开展基础研究，聚焦人工智能重大科学前沿推动关键核心基础理论实现突破发展，研究设立人工智能研发专项基金，加大对芯片、开发框架、算法、软件等领域研发投入，推动关键核心技术和芯片国产化替代，形成自主可控的技术体系。设立标准化测试体系和技术研究机构，联合头部企业、高校和科研院所，完善关键领域产品服务和行业应用等标准测试体系，开展算法、数据、隐私保护等关键技术攻关。引进培养人才，鼓励校企共同设立研究机构，提升人才培养质量和实际应用能力，实施海外高端人才引进专项计划，实现产学研贯通。完善安全评估环节，预防人工智能安全隐患，发展沙盒安全环境仿真测试，在虚拟环境中测试人工智能系统后再投入使用，大规模进行一致性研究，确保人工智能模型理解人类意图。及时检测人工智能风险，探索提升评估技术，创新评估工具，开发安全评估平台，围绕数据泄露、对抗攻击、学习框架、算法安全、风险监测预警等提升检测水平。训练专业人工智能检测模型，运用大数据实时收集信息，评测各类语言模型社会价值观，促进形成“善智”“善治”的良好局面。

（二）强化政府主导作用

促进法律法规建设，加快人工智能治理立法，促进跨部门协同监管，覆盖社会伦理、身心健康、财产安全等领域，建立事前审核、事中监管、事后补偿应急预案，厘清人工智能研发、使用、内容生成的权责关系，实现创新与监管并重。促进政企合作，探索在国家和地方行政部门成立下属人工智能安全研究院所，加强中央与地方、政府与企业、国内与国际交流合作。制定人工智能应用战略规划及治理专项指南，明确人工智能治理的总目标、总原则和具体策略等。优化人工智能治理组织架构，鼓励地方探索建立自治制度，创新人工智能信息披露与备案审查、风险识别等治理手段，开发评估测试公共服务、风险监测预警等平台。牵头举办座谈会和学术沙龙等学术研讨会，倾听人工智能研发使用面临的安全风险和治理建议，委托高校、科研机构开展人工智能安全治理相关哲学社会科学课题研究项目，促进政企共享人工智能安全研究信息。

（三）不断提升行业自律能力

引导人工智能企业建立全生命周期风险管理体系，成立安全审查部门、建立安全保障制度、开发风险识别与评估工具等，统筹开展算法模型安全审查、数据合规审计和产品伦理评估。吸纳科技巨头加入行业协会、产业联盟、技术组织，配合政府机构制定行业监管标准、开展技术研究、提供咨询服务，制定人工智能研发者遵守的伦理准则与规范，确保人工智能技术以人为本、安全可控。探索建立跨行业协同治理平台，引导各行业协会构建分行业、分场景的治理标准体系。针对医疗、金融、交通等垂直领域，研制差异化治理指南，明确治理对象和风险分类，依据不同行业人工智能应用场景特点，制定专项治理规则和监管要求。推动形成“基础共性标准+行业专用标准”的立体化标准框架。建立企业自治与行业自律的衔接机制，政府可授权行业协会开展安全合规评级，形成“企业自检—行业抽检—政府督查”的三级监管链条，构建分层递进的监管生态。

（四）拓展国际合作空间

发挥负责任大国作用，全面落实全球人工智能治理倡议，为全球人工智能治理提供建设性解决思路。强化伙伴关系，以共建数字丝绸之路为引领，推动我国与东盟、拉美、非洲等地区共建国家联合建设人工智能基础设施和研发中心，在东盟等重点区域建设数字自贸区，推动算力共享和数据互通；在共建国家打造一批智能制造、智慧农业、智慧物流等领域的示范应用场景，鼓励企业通过“技术标准+应用场景”模式拓展人工智能业务，不断提升共建国家对我国人工智能产业黏性。促进互学互鉴，牵头举办“金砖国家”、“一带一路”人工智能安全治理多边峰会，推动签署双多边关于人工智能和全球治理的联合声明。依托已有机构，探索成立双多边非实体国际人工智能安全研究所，加强与各国在安全标准制定、安全研究人才培养等方面的合作。积极推动国内人工智能安全研究所参与国际人工智能安全治理合作研究项目、举办国际学术会议和产业论坛，围绕人工智能安全治理开展国际研讨交流。深化标准制定，深度参与联合国框架下的人工智能治理合作，推动我国自主制定标准纳入国际标准体系，提升国际话语权。推动与欧盟、韩国、日本等经济体在人工智能安全、伦理、数据治理等方面建立多层次对话交流机制，促进人工智能监管规则标准衔接互认，降低我国企业“走出去”合规风险，消除隐形合规壁垒。

免责声明：本文转自科技中国，原作者赵一帆。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

转自丨科技中国

作者丨赵一帆