推理作为双刃剑：视觉-语言-动作模型中的架构与跨阶段鲁棒性

一篇arXiv研究评估了在视觉-语言-动作模型中增加推理步骤对鲁棒性的影响。对三种模型（无推理、文本链式推理、隐式迭代推理）分别施加视觉、推理和动作阶段的扰动，发现隐式迭代推理模型在随机噪声和白盒攻击下任务成功率严重下降，而其他两种模型保持稳定。推理输出的监控信号在自适应攻击下失效，无法作为可靠的安全指标。

此前业界普遍认为加入推理步骤能提升模型鲁棒性，但该研究表明这一假设并不普遍成立：隐式迭代推理架构反而极度脆弱，且推理输出监控在自适应攻击下无效，这对依赖推理增强安全性的产品设计构成重大挑战。

隐式迭代推理的脆弱性源于其结构性设计，而非推理深度累积——改变推理深度几乎不影响结果。推理输出监控在朴素评估中表现良好，但一旦攻击者知晓监控逻辑并进行自适应攻击，其性能降至随机水平。即使结合动作异常检测，在匹配假阳性率校准下也无法提升防御效果。

对于使用VLA模型的机器人或自动化产品，选择隐式迭代推理架构将引入严重安全风险；依赖推理输出作为异常检测信号的方法不可靠，需重新设计防御机制。研发团队应谨慎评估推理架构的选择，并避免仅依赖推理输出进行安全监控。

• 优先采用文本链式推理或无推理架构，避免使用隐式迭代推理，以保持模型对扰动的鲁棒性
• 开发结合多模态信号（而非仅推理输出）的防御方法，例如融合动作异常检测与视觉扰动检测

• 在其他类型扰动（如自然对抗样本）下，隐式迭代推理的脆弱性是否依然显著？
• 是否可以通过改变训练范式或数据增强来提升隐式迭代推理的鲁棒性？
• 文本链式推理的鲁棒性在更大规模、更复杂的任务上是否仍能保持？
• 该结论是否适用于其他VLA架构（如不同视觉编码器或动作空间）？