arXiv · 机器人与计算机视觉· Samuel Tetteh, Cody Fleming·· 2026-10-08AI 评分46
Frozen CLIP 提示词边距安全评分无法检测危险:一项受控评估显示其仅追踪场景相似性而非真实风险感知
It Is Not Seeing the Hazard: A Frozen Vision-Language Safety Score Measures Its Caption Bank
AI 导读
针对冻结视觉语言模型的安全评分,研究通过控制变量发现该分数主要随提示词结构和相机视角变化,而非反映真实危险。在涵盖三种策略、180 个回合及 130 次接触起点的实验中,分数仅在接触前约二十步下降,证实其无法区分危险信号与场景相关特征。结论表明仅凭图像文本相似度转化为奖励或置信度权重,并不能建立真正的危险感知能力。
来源:arXiv · 机器人与计算机视觉 · arxiv.org