今日分享|GB/T 45654-2025 网络安全技术 生成式人工智能服务安全基本要求

标准名称：GB/T 45654-2025 网络安全技术 生成式人工智能服务安全基本要求

实施时间：2025年11月01日

标准概述：随着 AIGC 技术的广泛应用，其安全问题日益凸显。从早期的 AI 换脸恶搞引发隐私担忧，到虚假新闻借助 AI 迅速传播扰乱社会舆论，再到 AI 算法因数据偏见导致决策不公，每一个安全事件都敲响着警钟。在此背景下，制定一部全面、权威的生成 AI 服务安全标准迫在眉睫。

2025 年 4 月 25 日，由全国网络安全标准化技术委员会（SAC/TC260）提出并归口的 GB/T 45654-2025《网络安全技术 生成式人工智能服务安全基本要求》正式发布，并将于 2025 年 11 月 1 日起实施。这一标准的出台，无疑为生成式 AI 服务安全领域注入了一剂 “强心针”，为行业发展提供了坚实的规范指引。

GB/T 45654-2025 的诞生，旨在为生成式 AI 服务提供者、监管部门以及第三方评估机构等相关方，提供统一、明确的安全要求与操作指南。它不仅有助于规范行业秩序，减少安全乱象，还能增强公众对生成式 AI 技术的信任，促进产业的健康、可持续发展。

该标准主要从训练数据安全、模型安全、安全措施等多个维度，对生成式 AI 服务提出了全面且细致的要求。

1.训练数据安全：筑牢 AI 的 “数据根基”

训练数据就如同农作物生长所需的土壤，其质量与安全性直接决定了 AI 模型的优劣。

在数据收集阶段，标准明确规定，违法不良信息在收集的数据中占比不得超过 5%，严禁采集他人明确禁止的数据。这意味着 AI 企业不能再为了追求数据量而 “不择手段”，必须严守法律与道德底线。例如，某图像生成 AI 若在训练数据中大量混入未经授权的受版权保护图片，便违反了此项规定。

对于开源数据的使用，需严格遵循其许可协议。在跨境数据采集方面，必须符合相关跨境法规。同时，若涉及个人信息，尤其是敏感个人信息的采集，必须依法获得个人的同意，敏感个人信息还需取得单独同意。这充分保障了个人的信息权益，防止个人信息被滥用。

在数据预处理环节，对于违法不良信息占比超过 5% 的数据源，应坚决禁止使用。同时，要建立完善的元数据管理机制，详细记录数据的来源，如网页 URL、数据集名称等，确保数据的可溯源性。对于不同模态的数据，如文本、图像、音频、视频等，也分别制定了针对性的安全核验与处理要求。以文本数据为例，需建立敏感词库和分类模型，过滤掉风险内容；对于图像等数据，则要设立识别机制，防止违法不良信息和侵权内容进入训练环节。

2.模型安全：为 AI 的 “智慧大脑” 保驾护航

模型作为 AI 的核心，其安全性至关重要。

在模型开发过程中，企业需建立健全开发制度规范，定期对所使用的开发框架、代码等进行安全审计，及时识别和修复开源框架中的安全漏洞。例如，若某 AI 企业使用的开源深度学习框架存在安全隐患，却未及时进行排查与修复，就可能导致模型被攻击，进而影响整个 AI 服务的安全性。

模型在更新、升级时，也有着严格的安全管理要求。企业需制定详细的安全管理策略，每次重要的更新、升级都要进行全面的安全评估，并留存记录。这就好比我们定期给电脑系统打补丁，每次更新都要确保不会引入新的安全风险。

此外，还需采取有效的技术措施，实现训练环境和推理环境的隔离，可采用物理隔离或逻辑隔离方式。例如，将训练环境和推理环境分别部署在不同的物理服务器上，或者通过网络安全组、访问控制列表等手段，限制两者之间的互联互通，防止训练过程中的安全风险波及推理阶段，确保模型运行环境的安全稳定。

3.安全措施：构建 AI 服务的 “安全防护网”

安全措施是保障生成式 AI 服务安全的重要防线。

在服务范围与场景适配方面，企业需明确说明服务适用的领域，并对其必要性、适用性和安全性进行充分论证。若服务应用于关键信息基础设施，如电力、交通等领域，以及社会治理、公共安全、医疗信息服务等重要场合，必须制定与风险程度及场景相适应的安全保护措施。例如，在医疗领域使用 AI 辅助诊断服务时，要确保模型的准确性和可靠性，同时保障患者医疗数据的安全与隐私。

对于面向未成年人的服务，有着特殊的安全要求。交互界面应允许监护人设定防沉迷措施，如限制使用时间等；积极展示有益未成年人身心健康的内容；对于付费服务，要建立严格的审核机制，确保提供的付费服务与未成年人的民事行为能力相符。若服务不适合未成年人使用，则需采取技术或管理措施，防止未成年人接触。

在服务透明度方面，若以交互界面提供服务，应在网站首页、服务协议等显著位置，向社会公开服务适用的人群、场合、用途等信息，同时宜公开基础模型的使用情况。以可编程接口形式提供服务的，也应在说明文档中公开相关信息，让用户充分了解服务的相关情况，增强用户对服务的信任。

GB/T 45654-2025 的实施，将对生成式 AI 行业产生深远影响。

对于 AI 服务提供者而言，这意味着需要对现有的业务流程和技术架构进行全面梳理与优化，加大在安全技术研发、人员培训、管理制度建设等方面的投入，以确保符合标准要求。短期内，可能会增加企业的运营成本，但从长远来看，有助于提升企业的核心竞争力，树立良好的品牌形象。例如，那些能够率先严格遵循标准，打造出安全、可靠 AI 服务的企业，将更容易获得用户的青睐与信任，在市场竞争中占据优势地位。

对于监管部门来说，该标准为其提供了明确的监管依据和评估准则，有助于提高监管的科学性与有效性，加强对生成式 AI 服务的规范管理，及时发现和处理安全隐患，维护市场秩序。

从行业发展的角度看，标准的实施将推动整个生成式 AI 产业向更加安全、规范、健康的方向发展，促进技术创新与安全保障的良性互动。它将引导企业在追求技术创新的同时，更加注重安全问题，促使行业形成良好的发展生态。