跳到正文
arXiv · 机器人与计算机视觉· Zhihua Wei, Qiang Li, Jian Ruan, Zhenxin Qin, Leilei Wen, Ruiyang Qin, Qingzhuo Wang, Dongrui Liu, Wen Shen·· 2026-10-19AI 评分65

通过 Jailbreak 相关表征偏移理解与防御 VLM Jailbreaks

Understanding and Defending VLM Jailbreaks via Jailbreak-Related Representation Shift

AI 导读

大视觉语言模型(VLM)在整合视觉模态后安全对齐减弱,图像能显著提升 Jailbreak 成功率。研究发现 VLM 能区分良性输入与有害输入,且 Jailbreak 样本在内部状态上与拒绝样本可分离;Jailbreak 并非源于无法识别有害意图,而是视觉模态将表征推向特定 Jailbreak 状态导致拒绝失效。

来源:arXiv · 机器人与计算机视觉 · arxiv.org