跳到正文
arXiv · 机器人与计算机视觉· Wonseok Shin, Songkuk Kim·· 23 天前精选AI 评分78

A Canary in the Neural Mine:捕捉图像分类器的沉默失败

A Canary in the Neural Mine: Catching an Image Classifier's Silent, Confident Failures

AI 导读

该预印本论文指出最大 Softmax 概率(MSP)存在结构盲点,无法检测正交于其梯度方向的特征变化。作者提出 CANARY,一种无需训练的故障检测器,通过计算倒数第二层特征的 PCA 残差的 kNN 距离并进行百分位校准,与 MSP 融合以识别高置信度错误。

推荐理由

提出无需训练的 CANARY 检测器,利用残差分布捕捉高置信度错误,在自然分布偏移下显著优于标准 MSP。

来源:arXiv · 机器人与计算机视觉 · arxiv.org