网安行业AI应用落地元年 360提出了以模制模的战术打法

在360数字安全集团总裁胡振泉看来，AI的发展目前正面临着内外双重安全挑战——

内部而言，因为AI本质依然是软件，所以必然“一切皆可编程”，这就意味着必然存在致命的漏洞可被攻击利用；而由于AI的进化速度之快，当它“一切皆可模仿”的时候，必将使当前我们的系统爆发严重的“信任危机”，作为以往搭建的安全体系的根基将不复存在；“一切皆可生成”的AI大模型，输出内容的好坏、善恶将不会遵循物理世界的准则，对于这个世界又将会产生多大的影响？而当AI大模型以一个又一个智能体（Agent）的形式存在的时候，大模型也不只是一堆代码，它具备调度执行的功能，是否可靠、是否能够保证数据的安全也成为了最大的挑战。

外部而言，和以往的网络攻防态势相同的：在赛博空间里，国与国之间的较量也随着AI大模型的升级和智能体的落地应用同时升级；在民间专业黑灰产组织已经开始利用AI自动、快速、批量生产攻击武器，甚至制造出核弹级的黑客攻击智能体，再配合更加高级的APT攻击技术手段，就会让现有的安全防御措施难上加难。

360着重在这一届的ISC.AI 2025上提到了AI内容安全，这个问题已经超出了传统攻防、数据安全的范畴。如今互联网上生成式的内容泛滥，对AI的恶意利用生成虚假的图像、视频、文本，常被作为违法犯罪的作恶工具；利用AI进行虚假宣传，从而对舆论进行恶意引导，甚至煽动群体实践也造成了非常大的舆论风险；由于自身算法缺陷、知识缺陷导致生成的信息错误甚至是杜撰、无中生有导致的AI的幻觉问题也一直是个大问题；更有甚者利用利用恶意的提示词来突破AI的安全机制，生成违法、违禁、违规内容进行“提示注入攻击”。

“广大政企机构在落地AI应用过程中，面临着多层次、复杂性安全问题，这远远超出了网络与数据安全范畴。传统安全企业在处理AI安全问题上处于盲人摸象、纸上谈兵的状态。大模型企业又缺乏必要的安全技术积累与攻防实践经验，没办法从攻防对抗的角度提出行之有效的解决办法，变成了干着急。”胡振泉分享道。

由此可见，某种程度上来讲，内容安全造成的破坏力、对社会的影响并不亚于传统基于漏洞的攻击。在面对未来大量的AI应用带来的未知威胁的时候，360认为当前最需要解决的智能体“可靠、可信、向善和可控”四个核心问题。其中“可靠”解决的是AI应用安全尤其是里面的智能体安全问题，“可信”和“向善”主要解决内容安全问题，“可控”是解决AI整体的安全。

回顾网络安全行业的发展历程，病毒木马时代我们需要的可能是杀软、防火墙等来应对；而云时代的到来，让我们的攻防态势骤然升级，大家突然发现——云的安全问题，可能传统的方式已经不太合适，需要用安全的云来解决。而在大模型时代到来，AI智能体的全面铺开的时候，我们不得不重新审视当前的攻防态势——AI智能体席卷行业的各个角落的时候，以往传统方式的防御模式是否依然适用呢？

360的答案是，需要“用魔法来打败魔法”——通过打造一套“大模型安全卫士”产品来解决上述“可靠、可信、向善、可控”的问题。具体来讲它包含四大板块：解决内容安全的“内容安全智能体”、解决应用安全问题的“AI Agent 安全智能体”、解决软件供应链问题的“软件安全智能体”和能提前发现AI安全短板的“安全风险评估智能体”。

其中，“内容安全智能体”内置了“幻觉抑制专用模型”、“安全风控专用模型”、“安全护栏专用模型”，它主要解决 AI 生成内容中的幻觉抑制、违禁、违规、违法的难题；“Agent安全智能体”主要解决 AI Agent 执行过程中的数据安全、权限控制以及行为失控问题；“软件安全智能体”能自动扫描发现AI软件安全漏洞、软件配置缺陷，保障AI软件上线前的安全检查；而“AI安全评估智能体”则是用实战的方式对AI系统安全性进行检测，目前这个智能体在客户实践过程中已经帮助客户发现了大量潜在风险，特别是在注入攻击、内容安全和智能体数据窃取这三个方面表现抢眼。

从用户的角度来看，这一套“大模型安全卫士”其实正好切中了政企安全市场的数个敏感点，——内容安全（意识形态、价值观、敏感问题等）、数据安全、供应链安全、实战攻防。而从胡振泉在大会上的分享也印证了安全419的看法，他们把“大模型安全卫士”的客户群体大致分为了三类——

第一类是在内容安全领域有着刚需的开放AI服务的客户群体；第二类是采用企业私域AI服务的客户，他们不仅对内容安全有要求，更是对“企业敏感数据泄露、客户个人隐私泄露”问题更加关注；第三类则是政企跨境AI服务的客户，他们除对声称是内容的准确规范性有要求，对于数据跨境问题管理也是非常关注。

不难看出，360此次祭出“以模制模”的口号，并且一口气推出成套解决方案型产品，绝对是有的放矢，目标直指未来最重要的几块客户市场。

就目前来看，要做好AI大模型应用的安全，可能需要一个具备“交叉学科”能力的选手——“需要懂AI+需要懂安全+需要在AI业务上进行大量实践+需要AI安全语料的长期积累”，这四点缺一不可。尤其要做好AI安全应用的落地，历史的积累是必不可少的。

而360刚好具备以上条件。近年来360应该算是网安产业里面最早布局AI的一家安全企业，作为一家拥有海量用户、客户，然后又是AI和安全双线发展的头部企业，360明显具备上述先发优势——本身安全就是360的老本行，对传统网络安全和数据安全等有着丰富的理解和实战经验；然后又是最先玩AI的，这必然对AI有着深刻的理解；双重BUFF加持下，AI应用智能体必定被喂足了“AI安全语料”的养分；又恰巧本身360自己就有大量的产品，可以让自己的产品得到充分的实践，在大量真实的业务场景中进行实践，最终才向行业输送成熟的产品。

成熟可用的产品和解决方案，应当具备以上条件。

AI大模型未来将更多地在网络安全产业落地生根，产业里面的企业如何能够顺应潮流的发展，以更优雅的姿态面对新时代的安全威胁，切实帮助用户解决真实的安全问题，这或许是当前产业中所有乙方安全公司应该去思考的问题。

所以，与其说360在ISC.AI 2025大会上的这一波操作是在“秀肌肉”，不如把它理解为作为行业领头企业之一的他们，正在帮助大家探索一条可持续发展的道路。攻防态势在升级，产业的能力和格局也急需升级。