arXiv · 机器人与计算机视觉· Sreehari Rammohan, Huy Ha, Carl Vondrick·· 8 天前AI 评分65
$A^2$: 更小的自监督 ViT 比更大的 ViT 定位效果更好
$A^2$: Smaller Self-Supervised ViTs Localize Better than Larger Ones
AI 导读
论文发现较小的自监督视觉Transformer(ViT)在最后层注意力图上对前景物体的定位优于大模型,但大模型能提取更丰富的表征。为此提出$A^2$方法,通过解耦‘看哪里’(小模型注意力峰值裁剪)与‘提取什么’(大模型嵌入),在无需组标签或针对数据集训练注意力的情况下实现两者结合。该方法在5个基准测试中与骨干匹配的损失级方法竞争,并在更强的分布偏移下优于端到端注意力训练。
来源:arXiv · 机器人与计算机视觉 · arxiv.org