arXiv · 机器人与计算机视觉· Cassandra Parent, Isha Agarwal, Kumail Alhamoud, Charikleia Moraitaki, Rafiya Javed, Walter Gerych, Marzyeh Ghassemi·· 2026-10-20AI 评分48
SPELUNKA:一种无需微调即可发现视觉语言模型检索任务中意外分布偏差的推理框架
SPELUNKA: A Framework for Finding Unanticipated Associations in Vision-Language Models
AI 导读
SPELUNKA 是一个自动化推理框架,能在无预定义子群、无人工监督及模型微调的情况下,自动识别视觉语言模型在检索任务中的意外分布偏差。该方法通过生成相关图像描述提取实体,并基于频率检测规则衡量属性在模型输出与全数据集分布间的过代表或欠代表现象。实验显示,SPELUNKA 在四个数据集上平均 AUROC 达 0.93,成功恢复合成与自然发生的虚假相关性,且优于基线方法发现强关联特征。
来源:arXiv · 机器人与计算机视觉 · arxiv.org