跳到正文
arXiv · 机器人与计算机视觉· Seyedarmin Azizi, Parsa Razmara, Sajjad Ghiasvand, Ardalan Aryashad, Tina Khezresmaeilzadeh·· 23 天前AI 评分75

当指向变为画像:文本可引导视觉编码器中的社会偏见与拒绝机制研究

When Pointing Becomes Profiling: Social Bias and Refusal in Text-Steerable Visual Encoders

AI 导读

该论文审计了 SteerViT 模型,发现其将语言驱动的指向行为转化为人口统计学画像,例如在反事实人脸马赛克中,“那个人”更常选中男性,犯罪词汇比职业词汇更常选中黑人。

来源:arXiv · 机器人与计算机视觉 · arxiv.org