跳到正文
arXiv · 机器人与计算机视觉· Muhammad Danish Waseem, Ahmed Ali-Eldin Hassan·· 14 天前AI 评分71

VLA 推理时间瓶颈与优化交互研究:跨 GPU 族的综合测量与 Triage 指南

Where Is VLA Inference Time Spent? Bottlenecks and Optimization Interactions Across GPUs

AI 导读

针对视觉语言动作模型(VLA)推理耗时可能超过机器人实时需求的问题,本文对七种推理优化方法进行了全面测量研究。研究在从数据中心 H100 到嵌入式 Jetson Thor 的四类 GPU 上评估了七个最先进的 VLA 模型,分析了 CPU 启动开销、内存带宽和内核效率如何共同影响优化收益,以及单一方法的改变如何影响其他方法的增益。

来源:arXiv · 机器人与计算机视觉 · arxiv.org