跳到正文
arXiv · 机器人与计算机视觉· Sascha Saralajew, Eleonora Poeta, Eliana Pastor, Ammar Shaker·· 29 天前AI 评分58

审计概念瓶颈模型在 CUB 数据集上准确率的来源

Auditing Where Concept Bottleneck Accuracy Comes From on CUB

AI 导读

本文审计了概念瓶颈模型(CBMs)和概念嵌入模型(CEMs)在鸟类识别任务中的准确率来源。研究发现标注噪声无法解释现有结果,且模型预测主要依赖内部嵌入中的非局部特征而非视觉证据。通过限制感受野至局部补丁可显著降低从概念分数恢复的准确率,表明当前评估指标可能误导对模型可解释性的判断。

来源:arXiv · 机器人与计算机视觉 · arxiv.org