跳到正文
arXiv · 机器人与计算机视觉· Ananth K Suresh, Aveen Dayal, Gouthaman KV, Aditya Pola, Vineeth N Balasubramanian·· 22 天前AI 评分33

MoHoBench 基准下多模态大模型拒答机制研究:指令、后训练与内部激活对证据不足场景的影响

When Visual Evidence Is Insufficient: How Instructions, Post-Training, and Internal Activations Shape Refusal in Multimodal Language Models

AI 导读

针对视觉证据不足时多模态大模型(MLLMs)的拒答问题,研究在 MoHoBench 基准上系统分析了推理指令、后训练及内部激活干预的作用。结果显示拒答高度敏感于指令含义与位置,后训练虽提升拒答率但可能引发混合回答,而内部激活干预则能实现跨提示条件的可迁移微调且避免误拒。

来源:arXiv · 机器人与计算机视觉 · arxiv.org