15. 直接提示注入与间接提示注入的区别是什么,为什么后者对智能体更危险?直接提示注入是用户在输入中直接嵌入恶意指令,试图覆盖系统提示或安全策略。间接提示注入则是攻击者将恶意指令隐藏在智能体将要读取的外部数据中——网页、文档、邮件、工具返回、RAG检索结果——当智能体在处理这些数据时,其中的文本被当作指令执行。间接注入对智能体更危险,因为智能体的核心能力就是读取和操作外部信息;它无法像人类一样稳定区分“数据中的内容”和“针对我的指令”。CERT的众测通报将提示注入列为“仍是大模型最常见漏洞风险”,并特别指出智能体场景中攻击者通过在网页、文档中预埋恶意指令诱导模型将其作为可信指令执行。
16. 什么是“目标劫持”,它与普通提示注入的层级差异在哪里?普通提示注入试图改变某一次输出的内容;目标劫持(ASI01)试图改变智能体正在追求的目标本身。攻击者通过提示注入、上下文污染或外部数据投毒,将隐藏指令嵌入用户输入、检索结果、工具输出或智能体间通信中,使智能体在规划阶段误将恶意内容视为任务目标或约束条件,从而让后续多步规划、工具调用和执行行为持续围绕错误目标展开。目标劫持发生在目标解析与规划层,它不需要每一步输出都被“攻破”,只需要让智能体“自愿地、合理地”走向错误方向。
17. 记忆投毒的攻击机制是什么,为什么它具有“时间延迟”特征?记忆投毒(ASI06)是攻击者通过输入、外部数据或智能体交互,将错误、恶意或误导性信息写入智能体的长期记忆或可复用上下文中,影响其后续决策与行为。它区别于一次性提示注入的关键在于持续性:被污染的记忆会在未来多次任务中反复生效。VATA-MMP-001描述的机制正是“在会话N中植入对抗性内容,在会话N+1中产生未授权执行,而当前会话没有任何恶意输入”。在向量检索或跨租户记忆共享场景中,记忆投毒还可能跨越数据隔离边界,影响从未直接接触攻击者的其他用户或智能体。
18. 工具滥用与“工具漏洞利用”有什么区别?工具漏洞利用攻击的是工具本身的实现缺陷(如命令注入、路径穿越);工具滥用(ASI02)攻击的是智能体对工具语义、副作用或调用顺序的理解不足。攻击者引导智能体在合法权限范围内错误使用工具——调用不恰当的API、使用错误参数、以异常顺序组合多个工具——从而造成数据泄露、资源消耗或业务破坏。这意味着即使每个工具都“没有漏洞”,智能体仍然可能因为对工具能力的错误建模而完成破坏性操作。在支持自动执行和多工具链式调用的场景中,单次工具误用会被迅速放大为跨系统影响。
19. 为什么“工具描述符”本身可以成为攻击载体?智能体在运行时依赖工具描述符来理解工具的能力、参数和语义。如果攻击者能够篡改或伪造工具描述符,就可以在不修改任何可执行代码的情况下改变智能体对工具的认知,诱导其以危险方式调用工具。OWASP将“工具描述符注入”列为智能体供应链风险的具体形态之一。工具描述符是智能体决策所依赖的“软逻辑”,其完整性必须像代码签名一样被验证,否则智能体就是在根据一份被篡改的地图行动。
20. 什么是不安全的智能体间通信,攻击者如何利用“内部可信流量”假设?智能体间通信(ASI07)的风险在于,协作协议通常将Agent-to-Agent消息视为“内部可信流量”,缺乏身份验证、完整性校验或防重放机制。攻击者可以伪造、篡改或重放智能体之间的消息,操纵协作行为或决策结果。在多智能体协作、自动调度和分布式决策场景中,这种信任假设尤其危险:一个被劫持的智能体可以向其协作伙伴发送看似合法的任务委派或数据更新,而接收方因为信任“内部来源”而不加验证地执行。防御需要将智能体间通信视为不可信输入,实施消息完整性保护、代理感知防重放和类型化合约验证。
21. 意外代码执行在智能体场景中的典型触发路径有哪些?OWASP ASI05列出的路径包括:恶意或可利用的代码幻觉、反射提示调用Shell命令、不安全的函数调用或反序列化、暴露的未净化eval()、未验证或恶意的包安装。在智能体场景中,最危险的组合是代码生成与自动执行之间缺乏人工审查:智能体在自动化编程、运维或自修复流程中生成脚本或系统指令,并直接运行。CERT通报中明确指出“某智能体沙箱进程管理服务API接口暴露,允许攻击者以管理员权限执行任意系统命令”。代码执行是“语言到行为”的边界失效,一旦突破,智能体就从“说错话”升级为“做错事”。
22. 什么是“循环放大攻击”,它如何消耗智能体的经济资源?循环放大攻击利用智能体在自主规划中的反复推理、重规划和工具调用来制造资源消耗。攻击者可以通过注入指令使智能体陷入无休止的搜索、重试或工具链调用,或者通过自适应工具预算的缺失让单次任务消耗远超预期的Token、API调用和计算资源。在金融场景中,这种风险进一步升级:大量智能体可能在瞬间做出同一决策,引发“羊群效应”,其速度和规模远超人类操作。经济安全是智能体安全中容易被低估的维度——一个被操纵的智能体可以不是“做错事”,而是“把资源烧光”或“在机器速度上制造挤提”。
23. 检索增强生成(RAG)中的投毒风险与记忆投毒有何关联和区别?RAG投毒发生在检索源层面:攻击者污染知识库、网页或文档,使智能体在检索时获得被篡改的信息,从而产生错误答案或被诱导执行恶意操作。它与记忆投毒的区别在于持久化位置:RAG投毒影响的是外部知识源,记忆投毒影响的是智能体内部的持久化状态。但两者可以形成攻击链:RAG投毒的内容被智能体读取后写入长期记忆,就从“一次性污染”升级为“跨会话持续污染”。防御不能只净化检索源,还必须控制什么内容有资格进入记忆。
24. 攻击者如何利用“上下文窗口”实施操纵?上下文窗口是智能体当前可访问的全部信息,包括系统提示、用户输入、检索结果、工具返回和记忆片段。攻击者可以通过在上下文中插入大量噪声、冲突信息或看似权威的伪造来源,稀释或淹没安全指令,使智能体在“信息过载”中偏向攻击者期望的解读。OWASP将“上下文窗口操纵”列为记忆与上下文投毒的具体形态之一。上下文窗口的安全问题本质上是注意力竞争:谁的内容在上下文中占据更大的权重和更“可信”的位置,谁就在事实上影响了决策。
25. “语义防火墙”与传统的输入过滤有什么区别?传统输入过滤基于模式匹配或分类器判断输入是否包含恶意特征。语义防火墙试图在意图层面进行验证:不只看输入“像不像攻击”,而是看当前请求所隐含的意图是否与智能体的授权任务、当前上下文和预期行为一致。这对于智能体场景尤为重要,因为间接注入的文本在表面模式上可能完全正常,只有结合它试图驱动的行为才能判断其恶意性。语义防火墙的难点在于意图的形式化和误报控制,但它代表了从“内容过滤”向“行为意图验证”的转变。
26. 什么是“意图胶囊”(Intent Capsule),它试图解决什么问题?意图胶囊是一种将用户原始意图与后续执行上下文进行密码学绑定的机制思路:在执行每一步之前,验证当前动作是否仍然在原始意图的授权范围内。OWASP将其列为目标劫持的缓解措施之一。它试图解决的问题是:在多步轨迹中,攻击者可以通过中间步骤的上下文污染逐步改变行为方向,而单步检查无法发现这种漂移。意图胶囊将“原始目标”作为一个不可篡改的参照点,使偏离可以被检测和阻断。
27. “操作级认证”与传统的会话级认证有何不同?传统认证通常在会话建立时完成一次身份验证,后续操作共享该会话的信任。操作级认证要求每一次工具调用、数据访问或跨智能体协作都重新进行认证和授权,而不是依赖会话级别的默认信任。这是零信任原则在智能体中的具体体现。智能体的危险往往来自“在合法会话中执行了不该执行的操作”,会话级认证无法区分同一会话内的正常工具调用和被劫持后的恶意调用。操作级认证将安全粒度下沉到动作层。
28. 什么是TOCTOU问题在智能体工作流中的体现?TOCTOU(Time-of-Check to Time-of-Use)是指权限或状态在检查时与使用时之间发生变化。在智能体工作流中,一个工具调用可能在规划阶段被判定为“在权限范围内”,但在实际执行时,由于上下文变化、委派链传递或记忆更新,其实际效果已经超出了原始授权。OWASP将“工作流中的TOCTOU问题”列为身份与权限滥用的具体形态之一。智能体的长程性和状态累积性使TOCTOU窗口扩大:一个在步骤1获得授权的意图,可能在步骤10被用于完全不同的目的。
29. 为什么“锁定系统提示”不能单独解决目标劫持?锁定系统提示可以防止攻击者直接覆盖系统级指令,但目标劫持可以通过污染规划所依赖的上下文来实现:攻击者不需要修改系统提示,只需要改变智能体对“当前任务目标是什么”的理解。一段被投毒的检索结果或工具返回可以让智能体在保留原系统提示的情况下,合理地将恶意目标纳入规划。系统提示是静态的,而规划是动态的;静态防护无法覆盖动态决策中的语义漂移。
30. 攻击者如何利用“工具返回结果”实施注入?智能体通常将工具返回结果视为可信数据并纳入后续推理。攻击者可以伪造或篡改工具返回,在其中嵌入恶意指令或误导性信息,使智能体在“读取工具结果”时将其当作事实或指令执行。CERT通报明确提到“伪造工具返回”作为代理目标劫持的手段之一。工具返回的安全假设必须是不可信数据:它来自外部系统,可能被攻击者控制,智能体在将其纳入上下文前应进行来源验证、内容净化和语义一致性检查。
31. 什么是“合成身份注入”,它如何绕过基于身份的安全控制?合成身份注入是指攻击者在智能体的身份上下文中植入伪造的身份信息或凭证引用,使智能体在后续决策中“相信自己”拥有本不具有的权限或角色。OWASP将其列为身份与权限滥用的形态之一。如果智能体的授权判断依赖于上下文中的身份声明(例如“当前用户是管理员”或“该委派来自可信Agent A”),那么污染这一声明就可以绕过基于身份的访问控制。防御需要将身份绑定到密码学可验证的凭证,而不是上下文中的文本声明。
-
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……



