arXiv · 机器人与计算机视觉· Jinyeong Kim, Junhyeok Kim, Yumin Shim, Joohyeok Kim, Sunyoung Jung, Seong Jae Hwang·· 28 天前AI 评分42
通过残差替换模型解析视觉 Transformer 内部机制与去偏能力
Interpreting vision transformers via residual replacement model
AI 导读
该研究首次系统分析了跨越所有层的 6.6K 个特征,引入残差替换模型将 ViT 计算转化为可解释特征流。分析揭示了从低级模式到高级语义的特征演化及曲线、空间位置的编码方式,显著简化了原始计算以实现人类尺度的直观理解。此外,该框架在去偏虚假相关性方面展现了实用价值。
来源:arXiv · 机器人与计算机视觉 · arxiv.org