arXiv · 机器人与计算机视觉· Sida He·· 16 天前精选AI 评分83
服务代理型机器人集群:工作负载特征、KV 缓存抖动与准入控制
Serving Agentic Robot Fleets: Workload Characterization, KV-Cache Thrashing, and Admission Control
AI 导读
该研究量化了由 GPT-6-Astra、RPent 和 pi0.5 生成的 80 个 LIBERO-PRO 任务集的工作负载,发现视觉语言大脑的长上下文 KV 缓存会挤占动作策略的执行资源。在 H800 GPU 上,静态并发上限可将吞吐量从约 2.4 提升至 5.00-5.55 任务/分钟,并满足严格的动作截止时间要求。
推荐理由
论文量化了多机器人集群中视觉语言大脑与动作策略的并发资源冲突,提出基于工作负载特征的准入控制原则。
来源:arXiv · 机器人与计算机视觉 · arxiv.org