生成式人工智能(或称:生成式AI、产生式AI)是一种人工智能系统,能够产生文字、图像或其他媒体以回应提示工程,例如ChatGPT。产生模型学习输入数据的模式和结构,然后产生与训练数据相似但具有一定程度新颖性的新内容,而不仅仅是分类或预测数据。
当前,生成式人工智能技术不断发展、相关服务已广泛应用,为社会生产生活等各方面提供便利;但也带来大量网络安全新风险、新挑战、亟需标准规范设立安全基线。
1.GB/T 45654-2025 《网络安全技术 生成式人工智能服务安全基本要求》
发布日期:2025-04-25
实施日期:2025-11-01
归口单位:由全国网络安全标准化技术委员会提出并归口
适用范围:本文件规定了生成式人工智能服务在训练数据安全、模型安全、安全措施等方面的要求。本文件适用于服务提供者开展生成式人工智能服务相关活动,也为相关主管部门以及第三方评估机构提供参考。本文件重点面向具有舆论属性或者社会动员能力的生成式人工智能服务,支撑备案管理、检测评估等方面工作开展。重点关注数据标注安全时,本文件可与 GB/T45674《网络安全技术 生成式人工智能数据标注安全规范》结合使用;重点关注预训练和优化训练数据安全时,本文件可与GB/T45652《网络安全技术 生成式人工智能预训练和优化训练数据安全规范》结合使用。
2.GB/T 45652-2025《网络安全技术 生成式人工智能预训练和优化训练数据安全规范》
发布日期:2025-04-25
实施日期:2025-11-01
归口单位:由全国网络安全标准化技术委员会提出并归口
适用范围:预训练和优化训练数据是生成式人工智能的基础,直接决定了生成内容的质量和安全水平,但由于预训练和优化训练数据在收集、预处理、使用等处理活动中存在安全风险,亟需标准规范用于提高预训练和优化训练数据的安全水平。本文件规定了生成式人工智能预训练和优化训练数据及其处理活动的安全要求,描述了相应的评价方法适用于生成式人工智能服务提供者开展预训练和优化训练数据处理活动以及安全自评估,也适用于第三方机构对预训练和优化训练数据进行安全性评估。
3.GB/T 45674-2025《网络安全技术 生成式人工智能数据标注安全规范》
发布日期:2025-04-25
实施日期:2025-11-01
归口单位:由全国网络安全标准化技术委员会提出并归口
适用范围:数据标注是生成式人工智能的关键活动,直接决定了训练数据以及生成内容的质量和安全水平,但由于标注规则不完善、人员管理不规范、核验标准不明确等原因,在数据标注过程中也可能为生成式人工智能引入新的风险隐患,亟需标准规范用于提高数据标注的安全水平。本文件规定了生成式人工智能训练的数据标注平台或工具安全要求、数据标注规则安全要求、数据标注人员要求、数据标注核验要求,描述了数据标注安全评价方法,适用于生成式人工智能数据标注组织方开展训练数据标注活动,并为生成式人工智能数据需求方对于数据标注进行检查、验收或第三方机构对数据标注进行安全性评估提供参考。
4.GBT 45438-2025《网络安全技术 人工智能生成合成内容标识方法》
发布日期:2025-02-28
实施日期:2025-09-01
归口单位:由中央网络安全和信息化委员会办公室提出并归口
适用范围:为规范生成合成服务提供者和内容传播服务提供者对人工智能生成合成内容开展标识活动,根据《人工智能生成合成内容标识办法》等有关法律法规,制定人工智能生成合成内容的显式标识和隐式标识方法标准,以支撑有关法律法规的有效实施。本文件规定了人工智能生成合成内容标识方法,适用于生成合成服务提供者和内容传播服务提供者开展人工智能生成合成内容标识活动。
5.GB/T45081-2024 ISO/IEC42001: 2023《人工智能 管理体系》
发布日期:2024-11-28
实施日期:2024-11-28
归口单位:由全国信息技术标准化技术委员会提出并归口
适用范围:本文件为在组织范围内建立、实施 、维护和持续改进人工智能管理体系规定了要求并提供了指南。本文件适用于提供或使用人工智能系统的产品或服务的组织。本文件旨在帮助组织负责任地开发、提供或使用人工智能系统,以实现其目标,并满足适用的法规要求,以及相关方的义务和期望,适用于各种规模、类型和性质的提供或使用人工智能系统产品或服务的组织。
6.GB/T 45288.1-2025《人工智能 大模型 第1部分:通用要求》
发布日期:2025-02-28
实施日期:2025-02-28
归口单位:由全国信息技术标准化技术委员会提出并归口
适用范围:《人工智能 大模型 第1部分:通用要求》给出了制备或使用大模型的参考架构,描述了相关方及其活动,规定了功能视角下大模型的资源池、工具、模型工具、数据资源、模型、行业应用和服务平台/组件的通用要求。本标准给出了制备或使用大模型的参考架构,描述了相关方及其活动,规定了功能视角下大模型的资源池、工具、模型工具、数据资源、模型、行业应用和服务平台/组件的通用要求,适用于大模型的研究、制备、开发、部署和应用。
7.GB/T 45288.2-2025《人工智能 大模型 第2部分:评测指标与方法》
发布日期:2025-02-28
实施日期:2025-02-28
归口单位:由全国信息技术标准化技术委员会提出并归口
适用范围:《人工智能 大模型 第2部分:评测指标与方法》确立了人工智能大模型的评测指标,描述了人工智能大模型的评测方法。本标准确立了人工智能大模型的评测指标,描述了人工智能大模型的评测方法。本标准适用于模型提供者、应用服务者和应用消费者等对大模型能力进行评估与测试,也可以为大模型的设计、开发、应用提供参考。
8.GB/T 45288.3-2025《人工智能 大模型 第3部分:服务能力成熟度评估》
发布日期:2025-01-24
实施日期:2025-01-24
归口单位:由全国信息技术标准化技术委员会提出并归口
适用范围:《GB-T 45288.3-2025 人工智能 大模型 第3部分:服务能力成熟度评估》给出了大模型服务能力框架和成熟度等级,描述了大模型服务能力评估指标和评估方法。本标准给出了大模型服务能力框架和评估指标,描述了大模型服务能力成熟度等级划分及评估方法,适用于服务提供方和需求方对大模型平台、模型定制及推理运营服务的能力进行全面评估,也适用于指导大模型服务能力的规划、设计和实现。
人工智能安全认证专家(CAISP)认证旨在为从事AI(含AI安全)的研究、管理、运营、开发以及网络安全等从业人员提供一套全面覆盖AI安全领域、跨领域综合能力培养、实践导向与案例分析、结合全球视野与法规治理的AI安全课程。截止目前,汇哲已成功为各大企事业单位、个人培训多期课程。课程详情:
了解标准详情或优惠活动咨询:
13020235863(微信同步)
13264368829(微信同步)
汇哲科技(简称“SPISEC”)成立于2011年;致力于网络空间安全、IT治理、信息安全、数据安全、AI安全、IT风险管理和审计、IT服务管理、业务连续性、项目管理等方面实践培训与研究,始终以培养国内网络空间安全专业人才、组织中国网络空间安全人才交流为发展目标。作为国内领先的专业培训服务机构,汇哲科技常年专注于推广网络空间安全理论和实践,为学员提供“学习国际知识、拓宽职业道路、融入专业社区、持续提升能力”的专业服务。
— 欢迎关注
— 欢迎关注
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...