跳到正文
arXiv · 机器人与计算机视觉· Yiting Duan, Miaoxin Wang, Aoqing Guo, Bo Peng·· 16 天前AI 评分58

从单轮问答到连续感知:边缘端视觉语言模型的能耗组成与优化边界再审视

From Single-Shot QA to Continuous Perception: Revisiting the Energy Composition and Optimization Boundary of Edge VLMs

AI 导读

该论文在 Jetson AGX Thor 和 Orin 平台上对九款不同架构的视觉语言模型进行了持续感知场景下的能耗剖析(共 4508 条记录)。研究发现,每输出 token 的解码成本随模型规模单调增长,而视觉预填充(图像编码)成本主要由视觉编码器架构效率主导而非规模。

来源:arXiv · 机器人与计算机视觉 · arxiv.org