- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年8月2日 06:06
- 状态
- 单一信源
发生了什么
VLAGuard是一个评估和缓解物理注意力劫持的框架,针对无线传感器网络中的视觉-语言-动作机器人。其压力测试模块VASA可使用打印贴片严重干扰机器人的动作条件交叉注意力。防御方法APFT稳定时空注意力并强制几何一致性,在LIBERO模拟中将OpenVLA失败率从100%降至25.9%,在2000次真实实验中平均成功率从23.0%提升至67.4%。
为什么重要
工业界此前缺少对VLA机器人物理攻击的系统性评估框架,而VLAGuard填补了这一空白。其表明打印贴片可造成高达100%的失败率,并展示了一种零推理开销的防御手段,将攻击下的成功率提升至67.4%,显著提高了VLA驱动的边缘节点在实际部署中的可靠性。
底层逻辑
VLA机器人依赖视觉与语言模态的交叉注意力进行决策,攻击者利用可打印贴片制造视觉干扰,劫持这种注意力。APFT通过微调稳定时空注意力并强制几何一致性,使模型对干扰不敏感,且不增加推理成本。防御效果在模拟和真实环境中均得到验证。
产品与商业机会
对于将VLA用于智能环境或边缘交互的产品,APFT提供了一种低成本的防御方案,可在不增加推理开销的前提下减少攻击导致的任务失败,提升系统鲁棒性和用户信任。但此防御方法仅针对物理贴片攻击,对数字攻击或其他干扰形式的有效性未知。
- 基于APFT开发适用于智能家居或仓储场景的VLA安全加固模块,集成到现有机器人控制管道中。
- 利用VASA压力测试为工业级VLA系统提供攻击鲁棒性认证服务,帮助客户评估产品安全性。
- 探索将APFT适配到OpenVLA之外的其他VLA模型,扩展防御覆盖范围。
仍待确认
- APFT在未攻击场景下是否会影响任务成功率或性能?
- VASA贴片攻击是否能在更复杂或动态环境中仍保持高杀伤力?
- APFT对其他类型的视觉干扰(如光照变化、遮挡)是否同样有效?