跳到正文
arXiv · 机器人与计算机视觉· Amirmohammad Izadi, Mohammadali Banayeeanzade, Alireza Mirrokni, Hosein Hasani, Mobin Bagherian, Faridoun Mehri, Mahdieh Soleymani Baghshah·· 8 天前精选AI 评分82

基于激活打补丁的因果归因方法 CAAP

Causal Attribution via Activation Patching

AI 导读

针对 Vision Transformer 归因方法依赖局部近似或输入扰动的局限,本文提出 Causal Attribution via Activation Patching (CAAP)。该方法通过在不同层间将源图像激活插入中性目标上下文,直接评估内部表征对预测的贡献。实验表明,CAAP 在多种 ViT 骨干网络中均能产生更忠实且定位准确的归因图,优于现有梯度、相关性传播及注意力基线方法。

推荐理由

提出通过激活打补丁直接干预内部表征的归因方法,在多种 ViT 骨干网络中表现优于现有梯度或扰动类基线。

来源:arXiv · 机器人与计算机视觉 · arxiv.org