arXiv · 机器人与计算机视觉· Allison Chen, William Yang, Salma Abdel Magid, Jonathan Williams, Olga Russakovsky, Esin Tureci·· 29 天前AI 评分35
VLM 内部信号幻觉检测鲁棒性分析:位置启发式捷径与多模态局限
Robustness of Internal Signals for Hallucination Detection in Vision-Language Models
AI 导读
针对视觉语言模型(VLM)的幻觉问题,研究分析了利用生成词 token 位置等内部信号进行检测的方法。实验发现,仅凭 token 位置的基线表现竟具竞争力,且部分方法依赖此捷径导致视觉根基薄弱、鲁棒性下降;集成多种互补信号虽能提升性能,但现有利用内部信号的检测手段仍存在显著局限。
来源:arXiv · 机器人与计算机视觉 · arxiv.org