跳到正文
arXiv · 机器人与计算机视觉· Enhao Cui, Junzhi Yang, Yaoshun Lin, Yuhan Feng, Zijian Chen·· 8 天前AI 评分42

Qwen2.5-VL、Qwen3-VL 与 InternVL3 的左右方向依赖 ViT 位置编码而非语言模型顺序

Where Do Vision-Language Models Get Left and Right? Position-Code Counterfactuals in Qwen2.5-VL, Qwen3-VL and InternVL3

AI 导读

消融实验证实视觉 Transformer 的位置编码对左右方向判断不可或缺。在 CV-Bench 基准上,仅镜像该编码即可使 Qwen2.5-VL-7B、Qwen3-VL-4B 和 InternVL3-2B 的翻转图像回答准确率分别达到 84.3%、93.2% 及介于两者之间。

来源:arXiv · 机器人与计算机视觉 · arxiv.org