- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年9月16日 17:34
- 状态
- 单一信源
发生了什么
arXiv 论文提出 rMuscle,一个面向 Vision-Language-Action(VLA)模型的实时推理框架。作者先分析具身工作负载,发现机器人在重复执行任务时,观测、动作轨迹乃至内部模型状态都存在高度相似性,据此设计双阶段肌肉记忆缓存:Context Cache 复用视觉 token 输出,Action Cache 复用神经元激活模式,并通过在线缓存重算、滑窗检索和去噪步骤间掩码共享控制内存与访问开销。
为什么重要
VLA 模型推理延迟直接影响机器人响应速度与动作平滑度,此前推理框架未充分利用具身任务的重复性,也未区分 VLA 不同阶段的瓶颈。rMuscle 把跨次执行的相似性作为可复用资源,是在不牺牲成功率前提下压缩推理成本的新思路,而非单纯堆算力。
底层逻辑
机制在于:工厂等结构化场景中机器人反复执行相似任务,使相似性从观测层延伸到内部模型状态层。Context Cache 复用视觉 token 输出以减少重复计算;Action Cache 复用神经元激活模式以减少权重访问。配合在线重算、滑窗检索与去噪步骤间掩码共享,在保持缓存开销可控的同时换取加速。
产品与商业机会
对机器人产品研发而言,该方法可在 RTX 4090 与 Jetson Thor 上取得 1.29–1.42 倍加速,意味着同等硬件下更高控制频率或更低边缘算力成本,且声称在真实机器人上维持原有成功率。对部署在工厂等重复工位的具身产品,缓存机制可能成为推理栈的可选优化层。
- 在工厂重复工位的 VLA 部署中,将跨次执行缓存作为推理加速层进行集成与验证
- 针对 Jetson Thor 等边缘设备,评估缓存方案对控制频率与功耗预算的实际收益
- 围绕滑窗缓存检索与掩码共享等机制,构建可复用的推理优化中间件
仍待确认
- 缓存命中率在任务多样性提高或环境扰动时如何退化尚未说明
- 1.29–1.42 倍加速是否覆盖所有任务类型,各任务分项数据未给出
- 长期运行下缓存一致性与内存占用增长是否有上限未验证
- 是否开源、以及能否迁移到非 LIBERO/RoboTwin 的商用 VLA 模型未知