arXiv · 机器人与计算机视觉· Amirmohammad Izadi, Mohammadali Banayeeanzade, Alireza Mirrokni, Hosein Hasani, Mobin Bagherian, Faridoun Mehri, Mahdieh Soleymani Baghshah·· 8 天前精选AI 评分82
基于激活打补丁的因果归因方法 CAAP
Causal Attribution via Activation Patching
AI 导读
针对 Vision Transformer 归因方法依赖局部近似或输入扰动的局限,本文提出 Causal Attribution via Activation Patching (CAAP)。该方法通过在不同层间将源图像激活插入中性目标上下文,直接评估内部表征对预测的贡献。实验表明,CAAP 在多种 ViT 骨干网络中均能产生更忠实且定位准确的归因图,优于现有梯度、相关性传播及注意力基线方法。
推荐理由
提出通过激活打补丁直接干预内部表征的归因方法,在多种 ViT 骨干网络中表现优于现有梯度或扰动类基线。
来源:arXiv · 机器人与计算机视觉 · arxiv.org