arXiv · 机器人与计算机视觉· Di Wu, Yanyan Zhao, Xin Lu, Hao Yang, Taotao Zhang, Yunzhen Zhao·· 2026-10-20精选AI 评分78
ContraSafe-VL:面向视觉语言模型的对比式安全偏好数据集发布
ContraSafe-VL: A Contrastive Safety Preference Dataset for Vision-Language Models
AI 导读
作者发布了 ContraSafe-VL 数据集,旨在解决视觉语言模型在多模态安全对齐中视觉上下文监督不足的问题。该数据集为固定文本查询构建了对应的成对视觉情境以区分不同安全标签,并提供基于无害性与有用性的响应偏好对。实验表明,使用该数据集训练能提升跨模态安全识别能力并改善安全与过度拒绝之间的权衡,同时保留通用多模态能力。
推荐理由
该数据集针对多模态安全对齐中视觉上下文监督不足的痛点,通过构建成对视觉情境与响应偏好对,直接指导模型平衡安全性与过度拒绝。
来源:arXiv · 机器人与计算机视觉 · arxiv.org