跳到正文
arXiv · 机器人与计算机视觉· Neil D. B. Bruce·· 2 天前AI 评分75

无需训练的高分辨率重缩放:Vision Transformer 注意力稀释与修复

Spread Too Thin: How Higher Resolution Dilutes a Vision Transformer's Attention, and a Training-Free Rescaling

AI 导读

Neil D. B. Bruce 指出以高于训练分辨率读取 Vision Transformer 会导致注意力行权重分散,提出一种基于对数比率的重缩放公式作为无训练修复方案。该方法在公开模型和控制模型测试中恢复部分精度损失,且校准系数随对数比率上升。

来源:arXiv · 机器人与计算机视觉 · arxiv.org