arXiv · 机器人与计算机视觉· Mohamed I. Eldagla, Zeyad H. ElShafei, Ahmed M. Anter·· 9 天前精选AI 评分78
不确定而非隐瞒:对视觉语言模型顺从行为的机制重估
Uncertainty, Not Concealment: A Mechanistic Reappraisal of Sycophancy in Vision-Language Models
AI 导读
该研究针对医疗检索增强生成中视觉语言模型(VLMs)面对 X 光片与报告冲突时的行为提出质疑。通过表征探测、激活引导和双向强制选择等诊断方法,在四个指令微调 VLM 上验证了矛盾回避现象。
推荐理由
研究证实 VLMs 在医疗场景下因不确定性而非隐瞒回避矛盾,为安全部署提供新诊断视角。
来源:arXiv · 机器人与计算机视觉 · arxiv.org