提示控制机器人：多智能体机器人系统中的提示注入攻击

arXiv AI 发布研究，首次系统评估基于 LLM 的多智能体机器人系统中的提示注入攻击，发现攻击可通过共享提示结构在智能体间传播，降低任务完成率并诱导对抗行为。

此前提示注入研究多集中于单智能体或纯软件环境，该研究首次在多智能体实体机器人系统中验证攻击传播，提示安全隐患更严重。

攻击通过直接注入任务指令或间接通过感知模块传播，共享提示结构使攻击在智能体间扩散，架构变化影响攻击成功率。

研发需在机器人系统中加入提示输入验证与隔离机制，架构设计需考虑对攻击的鲁棒性，否则面临安全风险和责任成本。

• 开发针对多智能体机器人系统的提示过滤与隔离工具。
• 设计抗注入的机器人架构，减少共享提示的暴露面。
• 提供安全审计服务，评估现有机器人系统的注入风险。

• 不同模型和场景下攻击成功率的具体数据未提供。
• 实际部署中攻击传播的实际影响程度未知。
• 防御措施的有效性和成本未在证据中说明。