基于密码学视角的人工智能安全新理论和防护体系入选科协2025重大科学问题

第二十七届中国科协年会主论坛7月6日在北京举行。主论坛上，发布了2025重大科学问题、工程技术难题和产业技术问题。其中，基于密码学视角的人工智能安全新理论和防护体系入选。

2025

基于密码学视角的人工智能安全新理论和防护体系

人工智能领域面临统筹发展和安全的难题。2025年4月25日，习近平总书记在中共中央政治局第二十次集体学习时指出“确保人工智能安全、可靠、可控”。基于密码学的人工智能安全新理论不仅解决人工智能安全的数学可解释性，实现人工智能安全体系化测评与评估，而且推动人工智能安全从经验性防御向数学可验证安全范式跃迁，实现人工智能高安全水平下的高质量发展。

2025年3月，中国科学院院士冯登国在《密码学报》发表文章分析提炼AI对密码学带来的影响、威胁和挑战，以及面向AI的密码学应重点关注和发展的方向。

面向人工智能的密码学未来发展思考

人工智能 (artificial intelligence, AI) 技术和应用不断走进人类社会的生活与生产活动中, 在给人类生活带来便利、提高生活质量与生产效率的同时, 也带来了更加严重的安全问题. AI 安全问题主要表现在三个方面: 一是 AI 自身安全; 二是 AI 应用引发的安全; 三是 AI 赋能安全.

密码学与 AI 相互影响相互赋能, AI 的发展和应用的确为密码学的创新发展提供了新动力和新场景, 大大驱动了密码学 (如安全多方计算、零知识证明、同态加密、新形态对称密码等) 的发展和进步. 但更为重要的是 AI 赋能密码学, 一方面 AI 赋能密码攻击技术提升密码攻击的精准性、效率和成功率, 例如, 神经网络、机器学习、深度学习等 AI 技术可在大规模数据和复杂模型下提供高效的计算能力, 从而威胁基于数学难题的密码系统; 另一方面 AI 赋能密码设计和实现技术及应用场景提升密码防御的能力和性能, 例如, 深度学习等 AI 技术的非线性性和随机性有助于为密码系统生成随机密钥和初始向量, 从而增强密码系统的安全性. 关于密码学与 AI 的融合, 在Springer 出版社 2023 年出版的由大阪大学学者 Zolfaghari B、北卡罗来纳大学学者Nemati H等联合编著的《Crypto and AI: From Coevolution to Quantum Revolution》一书中有更多的描述.

随着 AI 技术的发展和应用, 密码学与 AI 之间的相互影响相互赋能必将更加深入和深远. 因此, 应高度重视和关注面向 AI 的密码学发展方向与重点. 通过分析提炼 AI 对密码学带来的影响、威胁和挑战, 结合当前信息技术发展现状和趋势, 面向 AI 的密码学应重点关注和发展以下 8 个方向.

1. 困难问题复杂度分析. 密码的安全性通常基于困难问题, 而困难问题主要通过计算复杂度来度量, 因此, 求解困难问题的算法的进步和创新以及计算能力的提升有助于解决困难问题或降低解决困难问题的难度, 必将对密码的安全性带来影响. 基于 AI 技术全方位优化和创新求解困难问题的算法和实现方案, 提出更高效的并行处理和协同处理方式, 以提升高性能并行计算的能力和水平.

2. 密码威胁感知. 基于 AI 技术提出提升识别和检测加密数据流中的异常现象和特定模式以及密码系统的脆弱性和漏洞等的性能和效果的方法与机制, 及时发现潜在的风险和威胁, 适时调整配置信息和防御对策或实施应急处置策略, 以抵御可能存在的攻击; 基于 AI 技术提出提升识别和检测恶意软件中的加密代码或恶意加密的效率的方法与机制, 预测未知攻击, 提高入侵检测与防御的智能化水平和能力.

3. 密码设计新理念和新理论. 基于 AI 技术提出更安全更高质量的随机数生成方法, 设计新的更安全更高效的密钥生成方法和交换方式, 构建非线性 S-盒等密码组件以及 Hash 函数、序列密码、分组密码和同态加密等密码算法和协议; 创新抵抗 AI 攻击或适应 AI 应用的密码设计新理论与新方法; 等等.

4. 密码分析新思想和新方法. 基于 AI 技术改进现有密码分析方法, 如差分分析、线性分析、侧信道分析等, 以增强密码分析的能力和效率; 基于 AI 技术提出更高效的分析密码系统的脆弱性以及恶意软件中的加密代码或恶意加密的方法; 创新基于 AI 技术的密码分析新思想和新方法; 等等.

5. 智能化自动化密码检测评估. 基于 AI 技术提出提高现有密码检测评估方法和工具的方法和方案, 提升密码检测评估的智能化、自动化水平; 创新基于 AI 技术或适应 AI 应用的检测评估方法与技术, 并研制相关检测评估工具、系统或平台; 等等.

6. 密码高效实现. 基于 AI 技术提出高效实现抗量子公钥密码、全同态加密和函数加密等数据处理相对比较大的密码算法或协议的方法和技术, 以提升新型或抗量子密码的实用化水平; 创新抵抗 AI 攻击或适应 AI 应用的密码高效实现方式和技术; 等等.

7. 密码应用范式. AI 技术及其应用必将催生一些新的应用范式, 创新提出密码融合、身份认证、隐私保护、信任体系、信息隐藏等方面的密码应用范式.

8. 量子人工智能密码. 量子信息、人工智能和密码学都是未来的重要发展方向, 三者之间相互影响相互赋能, 这里将量子信息和人工智能影响下的密码学称之为量子人工智能密码, 当前基于 AI 技术的抗量子密码是一个重要发展方向, 亟需颠覆性突破.

冯登国, 中国科学院院士, 网络与信息安全专家, 中国网络空间安全协会副理事长, 密码科学技术全国重点实验室主任. 在 Theor. Comput. Sci.、J. Cryptology、CCS 等国际重要期刊和会议上发表论文 200 多篇, 主持研制国际和国家标准 20 多项, 出版有《网络空间安全概论》、《大数据安全与隐私保护》、《可信计算理论与实践》等著作, 荣获国家科技进步一等奖、国家技术发明二等奖等奖励. 担任过国家 863 计划信息安全技术主题专家组组长、国家信息化专家咨询委员会委员等.

综合自：中国科协、密码学报