arXiv · 机器人与计算机视觉· Gaoxiang He, Bin Zhu, Bo Xie, Xiaotong Yu, Yi Chen, Hongfei Yan·· 9 天前AI 评分44
Differentiable Virtual-Slot Partitioning (\dvsp{}):视觉 Transformer 自适应分区的可微方法
Differentiable Virtual-Slot Partitioning for Adaptive Tokenization in Vision Transformers
AI 导读
\dvsp{}通过保留每$2{\times}2$区域的四个虚拟槽位并混合特征,在 COCO 检测任务中移除64.2%视觉 Token的同时保持97.9%的Box AP。该方法相比熵基选择等基线实现1.61倍端到端加速,且移除注意力质量仅损失1.59 Box AP。研究基于EVA-02-B模型验证,代码与权重尚未开放许可。
来源:arXiv · 机器人与计算机视觉 · arxiv.org