跳到正文
arXiv · 机器人与计算机视觉· Y. Li, M. Bigliardi-Qi, S. Bedros, P. Bigliardi, N. Papanikolopoulos·· 27 天前AI 评分5

SkinCon 数据集存在肤色依赖的标注偏差,导致概念模型在深色皮肤上漏诊红斑风险显著增加

When Annotation Patterns Are Learned: Skin-Tone Dependence in Dermatology Concepts

AI 导读

审计显示同一疾病下,SkinCon 数据集中深色皮肤的“红斑”标注概率仅为浅色皮肤的 0.17 倍,而色素沉着与减退的标注则分别高出 6.2 和 4.5 倍。基于此偏差训练的概念模型会复现漏诊红斑的模式,且三种标签错误检测器在发现此类遗漏时均不如仅基于疾病的基线模型有效。研究建议必须在每个子群体内审计概念标注,方可信任基于这些标注构建的解释。

来源:arXiv · 机器人与计算机视觉 · arxiv.org