近日,网御星云自主研发的大模型应用安全评估与加固系统(MAVAS)通过国家网络与信息系统安全产品质量检验检测中心(公安部第三研究所)的严格测试,成功斩获国内首批大模型安全评估系统认证证书!
当前,人工智能大模型技术正加速演进,并深度赋能千行百业的核心业务场景。随着2025年政府工作报告明确提出“持续推进‘人工智能+’行动”,大模型应用迎来前所未有的政策机遇。然而,在技术规模化落地过程中,贯穿其全生命周期的安全问题也日益凸显。这类风险隐蔽性强、复杂度高、难以全面管控,典型表现为生成内容不可控、敏感数据泄露高发,以及越狱攻击、提示注入等恶意手段。这些安全挑战,正逐渐成为制约人工智能产业创新与可持续发展的关键瓶颈。
为响应国家推动大模型安全应用的政策导向,有效化解大模型全生命周期的安全风险,网御星云MAVAS应运而生。产品严格遵循《生成式人工智能服务管理暂行办法》《网络安全技术 生成式人工智能服务安全基本要求》等相关标准要求,采用“以模型对抗模型”的创新方式,实现对不同场景下大模型生成内容安全性的自动化专业评估。评估能力涵盖大模型应用安全评估、安全加固、资产发现、漏洞检测、配置检测、Web检测等多个维度。
1.安全评估:基于内置多样化的对抗攻击样本(数量100000+)和大模型评测基准模型能力,实现对大模型生成内容安全性的自动化评估。
2.安全加固:通过融合内置敏感词库和风险识别模型的双重策略,对大模型输入及输出内容进行实时检测与安全治理,实现与安全评估环节的有效闭环。
3.资产发现:利用主动探测技术,全面识别企业内部私自搭建的大模型服务及相关资产,实现统一可视化管理,消除“影子AI”带来的安全风险。
4.漏洞检测:全面扫描主流大模型依赖的应用组件、智能框架及开发工具,精准识别缓冲区溢出、代码注入等已知高危漏洞。
5.配置检测:自动检查大模型应用组件的安全配置状态,识别非必要端口/服务开放、弱密码策略等风险配置,确保系统以安全基线运行。
6.Web检测:深度扫描大模型依赖的Web应用组件,检测SQL注入、XSS跨站脚本等常见Web攻击漏洞,阻断潜在攻击路径。
典型应用场景
1.赋能大模型应用企业 - 全周期防护,保障安全合规
MAVAS为大型模型应用企业提供覆盖模型上线前及运行后的常态化安全评估能力,并针对大模型应用输入与输出内容提供多种精准防护策略,有效保障大模型应用的安全、可靠与合规。
2.赋能大模型开发企业 - 前置安全,护航研发
MAVAS助力大模型应用研发企业在产品研制与训练阶段主动识别潜在安全隐患,并辅助验证修复效果,规避大模型上市后可能因安全问题而导致的声誉损害与法律合规风险。
3.赋能政府与监管机构 - 强化合规监管,守护公共安全
MAVAS为政府与监管机构提供强有力的监管技术支撑,通过全面评估与持续监测企业大模型应用安全管理和风险防范体系,切实维护社会公共利益、国家安全与公民权益。
未来,网御星云将持续专注于大模型安全领域的技术创新与应用探索,全力推动大模型安全应用的规模化落地,不断提升相关大模型安全产品与服务的成熟度和可靠性,为人工智能产业健康发展保驾护航。
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...