跳到正文
arXiv · 机器人与计算机视觉· Sreehari Rammohan, Huy Ha, Carl Vondrick·· 8 天前AI 评分65

$A^2$: 更小的自监督 ViT 比更大的 ViT 定位效果更好

$A^2$: Smaller Self-Supervised ViTs Localize Better than Larger Ones

AI 导读

论文发现较小的自监督视觉Transformer(ViT)在最后层注意力图上对前景物体的定位优于大模型,但大模型能提取更丰富的表征。为此提出$A^2$方法,通过解耦‘看哪里’(小模型注意力峰值裁剪)与‘提取什么’(大模型嵌入),在无需组标签或针对数据集训练注意力的情况下实现两者结合。该方法在5个基准测试中与骨干匹配的损失级方法竞争,并在更强的分布偏移下优于端到端注意力训练。

来源:arXiv · 机器人与计算机视觉 · arxiv.org