Jetson-PI：通过预对准异步推理实现板载实时机器人控制

Jetson-PI 是一种在 NVIDIA Jetson Orin 等低功耗板载设备上高效部署 VLA 模型的方法，通过训练轻量级未来校正模块和置信度调度优化，解决异步推理中的感知执行错位和长反应时间问题。实验表明，相比 PyTorch 和 vla.cpp，控制频率分别提升 8.66 倍和 5.41 倍，在 LIBERO 基准上成功率比 VLASH 高 14.8%。代码已开源。

此前 VLA 模型在低功耗设备上因计算复杂度过高导致控制频率低，异步推理虽能掩盖延迟但引入错位和反应慢问题。Jetson-PI 同时解决这两个问题，使边缘端实时控制成为可能，控制频率和成功率均显著提升。

方法包括：（1）轻量未来校正模块根据已执行动作预测未来环境表示，使动作专家直接从未来时间步预测动作；（2）置信度调度优化自适应平衡 VLM 与动作专家调用频率；（3）系统级加速如 CUDA 图复用、GPU 驻留中间缓冲和流展开。

对于开发机器人或边缘AI产品的团队，Jetson-PI 提供了在低成本低功耗设备上运行 VLA 模型的可行方案，可提升控制响应速度与任务成功率，减少对昂贵计算硬件的依赖，缩短产品上市时间。

• 在 Jetson Orin 等边缘设备中集成 Jetson-PI 以提升机器人实时控制频率和成功率
• 将未来校正模块和调度优化应用于其他需要异步推理的嵌入式 AI 场景
• 将 Jetson-PI 与 llama.cpp 推理引擎结合，降低 VLA 模型的部署门槛

• Jetson-PI 在非 Jetson 平台（如 Raspberry Pi、Intel NUC）上的可移植性与性能表现如何？
• 训练未来校正模块所需的数据量和计算成本是否在可接受范围内？
• 该方法在更复杂、非结构化环境中的泛化能力尚未验证。
• 置信度调度优化是否会对实时性要求极高的任务引入额外抖动？