arXiv · 机器人与计算机视觉· Muhammad Zeeshan Karamat, Syed Talal Hassan, Christiana Chamon Garcia·· 24 天前AI 评分72
视觉语言模型中的深度依赖型安全几何:逐层定位与双向拒绝控制
Depth-Dependent Safety Geometry in Vision-Language Models: Layer-Wise Localization and Bidirectional Refusal Control
AI 导读
论文提出了一种无需重训练即可在冻结视觉语言模型中定位并操纵安全敏感表示的轻量级推理框架。研究基于 Qwen3-VL-4B 和 InternVL2.5-4B 发现,早期视觉层支持通过激活引导实现强双向拒绝控制(不安全拒绝率跨度为 6%-96%),而深层层对引导不敏感但保持表征可分离性。结果暴露了 VLM 视觉编码器中白盒层面的拒绝绕过攻击面,并推动了推理阶段安全表征的稳定性研究。
来源:arXiv · 机器人与计算机视觉 · arxiv.org