5月14日,由香港数码港及香港网络安全专业协会联合主办的"人工智能 x 网络安全论坛" 在香港圆满举办!以“迎向AI赋能的安全未来”为主题,本次论坛汇聚超过 400 位学界、政界及各行业的专家领袖,围绕人工智能(AI)在网络安全中的挑战与机遇,深入探讨 AI 在网络安全领域的应用,并就平衡创新与风险管理,以及如何建构一个安全且可信的 AI 生态系统,提供了多元视角与洞见。
CSA大中华区作为重要支持单位受邀出席会议,CSA大中华区主席李雨航院士发表主题演讲分享人工智能,数据,数字安全——创新与治理的平衡之道。
平衡之道:AI技术创新需与治理并重
李院士指出,生成式AI、大模型、智能体等技术的爆发式增长,正推动网络安全进入“智防时代”,但同时也衍生出数据滥用、深度伪造、算法黑箱等新型风险。他强调:“AI的潜力与风险如同一枚硬币的两面。唯有通过‘双轮驱动’——技术创新与安全治理深度融合,才能实现可持续的数字化未来。”
技术侧:加速AI在威胁检测、零信任架构、行为分析等领域的应用,例如CSA主导的零信任SDP 3.0标准(2024年发布),通过AI动态适配网络隐身协议(NHP),已在金融、医疗等高敏场景实现主动防御。
治理侧:呼吁全球协作,推动原生安全可信(Native STR)理念,将安全(Safety)、可信(Trust)、责任(Responsibility)嵌入技术设计全流程。
AI STR框架:构建可信生态的三大支柱
李院士就CSA大中华区作为主要推动者和起草者发布的《2023全球人工智能治理宣言》及AI STR治理框架,提出三大核心实践路径:
安全(Safety)
物理安全:确保自动驾驶、医疗机器人等AI系统配备强制停用机制,防止物理伤害。
心理安全:建立AI生成内容真实性验证体系,打击虚假信息与深度伪造。
可信(Trust)
算法透明化:公开关键算法逻辑,接受第三方独立审查(如杜绝“后门”漏洞)。
用户赋权:通过数据保护协议与知情同意机制,保障用户隐私与数据主权。
责任(Responsibility)
伦理审查:将社会影响评估纳入AI开发全生命周期。
风险兜底:限制AI自我复制权限,建立全球统一的紧急停用标准。
数据治理:可信流通是AI发展的命脉
李院士指出,数据是AI时代的核心生产要素,其安全高效流通需技术与治理双重保障:
国际标准:构建全球信任底座
联合国可信数据空间框架:以联合国为“信任根”,联合全球企业、科研机构及立法者,制定覆盖数据确权、计价、争议仲裁的全流程标准。
技术架构:采用“联邦学习+区块链+零信任”三重保障,实现数据所有权、使用权、收益权分离。华为云基于此打造的跨境贸易数据空间,已服务超500家企业,通关效率提升40%,纠纷率下降75%。
中国行动:从本土实践到全球引领
可信数据空间发展行动计划(2024-2028):2025年建成20个行业级数据空间(医疗、金融、物流),激活数据要素市场。2028年跨境数据流通成本降低60%,建成100个覆盖企业、城市、个人及跨境场景的可信空间。
粤港澳大湾区实践:政务数据通过隐私计算实现“可用不可见”,支撑跨域交通调度与应急管理,减少数据泄露风险90%。
“创新是发展的引擎,治理是安全的基石。科技向善,治理为锚——在AI浪潮中,唯有坚守创新与安全的平衡,方能实现数字时代的可持续发展。未来,CSA将继续携手联合国、WDTA等国际平台,推动‘双轮驱动’从理念迈向全球标准。”
阅读推荐
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...