多智能体LLM流水线中的对抗性攻击：揭示Agentic AI架构的结构性漏洞

论文指出多智能体LLM流水线因缺乏边界验证而存在结构性安全漏洞，包括内容注入、身份伪装、计划偏离和记忆投毒。在GAIA和SWE-Bench基准的生产轨迹及受控实验中，漏洞在良性部署中也出现，且攻击成功率与流水线结构相关，而非模型能力。研究在GPT-5-mini、Claude Sonnet 4.5和Kimi K2.5上测试。

此前关注单智能体安全，此研究揭示多智能体流水线引入新的攻击面，且攻击成功取决于架构而非模型，意味着换用更强模型无法修复漏洞，需在流水线层面防御。这改变了安全评估与设计思路，对依赖多智能体协作的产品构成新风险。

多智能体流水线中，中间输出在智能体间传递，若缺少边界验证，攻击内容一旦被接受，会作为可信输入传播。攻击面包括内容注入、身份伪装、计划偏离和记忆投毒。GAIA和SWE-Bench的标注轨迹显示这些漏洞在良性部署中出现，且逃脱现有评估框架；受控实验证明攻击成功率与流水线结构一致，表明漏洞是架构属性。

对使用多智能体流水线的产品（如自动化客服、协作工具）构成更大安全风险，需投入研发资源实现边界验证，增加开发和测试成本。现有评估框架可能无法覆盖此类攻击，导致产品上线后才发现漏洞，影响用户信任和部署速度。

• 开发边界验证中间件，为多智能体流水线提供内容、身份、意图和状态完整性检查的API，并作为独立安全产品出售。
• 设计流水线级安全评估工具，模拟内容注入、身份伪装等攻击，帮助企业在开发阶段检测漏洞并生成安全报告。
• 提供针对多智能体架构的安全加固咨询服务，重点制定边界验证策略和防御部署方案。

• 具体攻击方法的实施细节未在证据中披露，如何操作尚待确认。
• 在GAIA和SWE-Bench上漏洞的出现频率和实际业务影响未量化。
• 边界验证机制是否会显著增加推理延迟和计算成本，证据未提供数据。
• 论文是否提出具体的防御方案，及其有效性验证结果未在证据中详述。