跳到正文
arXiv · 机器人与计算机视觉· Sachin Acharya, Niyoj Oli, Shishir Adhikari, Aminu Lawal, Yash Raj Shrestha, Prashnna K Gyawali, Binod Bhattarai·· 6 天前AI 评分5

MAGIC:基于模态感知基尼系数的 LMMs 临床幻觉检测新方法

MAGIC: Modality-Aware Gini Inspection for Clinical Hallucination Detection in LMMs

AI 导读

MAGIC 将大多模态模型(LMMs)的幻觉检测定义为生成答案 token 时视觉与语言模态注意力权重的分布失衡问题。该方法利用各层各头的基尼系数量化注意力集中度,训练逻辑回归分类器并在三种医学影像模态上评估了两个 LMMs。实验显示,MAGIC 在检测临床不可验证输出方面表现优于或等同于当代基线方法。

来源:arXiv · 机器人与计算机视觉 · arxiv.org