腾讯云安全发布人工智能风险评估框架，助企业构建可信智能体

随着AI和智能体应用在企业场景中快速落地，安全风险正不断凸显。李滨通过四个典型案例，揭示出当前AI系统中普遍存在的风险类型：

• 办公自动化泄密风险：某全球头部SaaS办公软件在推出Copilot功能后，因上下文注入触发敏感信息外泄，漏洞评分高达9.3分；

• 开源生态供应链隐患：主流AI开发平台的Agent存在信息劫持、Prompt篡改等问题，行业调研显示约40%的AI应用存在严重漏洞；

• 企业内部上下文攻击：外部用户可通过工单系统注入恶意内容，诱发内部数据泄露；

• MCP协议系统性漏洞：评分9.6分的MCP协议漏洞因认证逻辑缺陷反复出现，暴露AI生成代码潜在风险。

这些案例集中反映了AI在数据泄露、供应链安全、权限滥用、身份混淆、代码脆弱性等方面的主要风险。基于大量实践经验，腾讯云系统性总结出大模型与智能体应用在企业场景中的十大常见安全风险，并通过安全通告、风险提示等方式，帮助企业提升风险防范意识和使用规范，夯实AI安全底座。

李滨表示，腾讯云发布的大模型和智能体应用在企业场景中的十大常见安全风险，只是列举了近一段时间内比较常见的关键风险。从底层方面Infra、中间层的模型，到上层的应用，以及Agent等大量新形态应用，对于AI全面风险研究的过程，相较以往应用系统安全分析更复杂。对此，腾讯云建立了人工智能与大模型的风险组成结构端到端分析，并将智能应用的生命周期分为6个阶段，从数据采集规范化、底座训练，到调优、应用开发、智能体工作流生成，再到运行维护等。

结合AI应用全生命周期（从数据采集、模型训练、调优、应用开发，到智能体工作流生成与运行维护），腾讯云认为，当前人工智能主要面临三大核心安全挑战：

• 认知与行为安全：AI具备强大能力，但缺乏社会经验和风险意识，难以准确判断意图与路径，模型本体在输入验证、输出约束、多模态一致性等方面存在脆弱性；

• 生态与治理风险：AI生态高速扩张，生成代码质量参差不齐，MCP等协议早期缺乏安全设计，供应链与组件风险频发，传统数据面漏洞被放大至控制面，形成系统级威胁；

• 可信身份与执行问题：在Agent调用工具和数据过程中，身份可信、意图可控、执行可验证成为关键挑战，信任体系亟需建立。

针对人工智能和大模型存在的核心问题，李滨强调，腾讯云推出了人工智能风险评估与控制方法框架。基于人工智能和智能体安全防护整体架构三条核心原则：建立AI安全治理与可观测性、从“静态策略”迈向“动态行为”、构建“可信任”的身份与生态体系，腾讯云面向客户推出多款AI安全产品，为客户人工智能应用进行整体安全防护。目前此框架已在腾讯云内部各个系统的人工智能建设中投入使用。

针对复杂多样的风险形态，腾讯云推出人工智能风险评估与控制方法框架，将企业AI系统风险划分为六大模块：治理风险、数据安全、大模型本体、智能体、工具与边界、AI Infra。框架包含七个层级、26个控制模块、130余项控制措施，形成系统化安全治理能力，已在腾讯云内部落地应用，为AI系统构建端到端防护机制。

考虑到企业在落地过程中的复杂性，腾讯云基于该框架推出多款安全产品，助力企业以“开箱即用”的方式建立AI安全防线：

• AI-SPM大模型态势管理：构建AI安全治理与可观测性。大模型和智能体应用的AI-BOM、攻击面和漏洞管理系统，它能够保护大模型基础设施运行环境，及时帮助客户发现和处置安全风险，以便形成闭环风险管理。

• LLM-WAF大模型防火墙：从“静态策略”迈向“动态行为”。LLM-WAF 提供多模型、多场景、高并发环境下的全链路防护能力，支持实时检测并拦截针对大模型的算力滥用、提示词攻击及数据泄露风险，助力企业构建可信、稳定、可持续的大模型服务生态。

• 天御大模型安全网关：构建“可信任”的身份与生态体系。以统一企业智能体应用和MCP服务身份和权限管控为核心，一站式管控企业智能应用的身份管理、防AI攻击、决策和执行安全问题，从而构建身份、决策、工具执行多重防线。

腾讯云为企业提供了从风险评估、实时防护到可信执行的全生命周期端到端解决方案。除了AI-SPM大模型态势管理、LLM-WAF大模型防火墙、天御大模型安全网关，腾讯云还推出上线前评估服务、大模型安全情报等，通过整合全生命周期的安全能力，为企业构建覆盖研发、部署、运维的全链路保障体系，让AI既“能干”又“可靠”，助力企业放心用AI。

- END -