跳到正文
arXiv · 机器人与计算机视觉· Charles Weng, Dingwen Li, Alexander Martin·· 23 天前AI 评分48

Prompt-Induced Score Variance in Zero-Shot Binary Vision-Language Safety Classification 研究揭示零样本视觉语言安全分类中提示词诱导的分数方差问题

Prompt-Induced Score Variance in Zero-Shot Binary Vision-Language Safety Classification

AI 导读

该研究指出,单一提示词的不安全评分并非可靠概率,在七种视觉语言模型和两个基准测试中,输入在不改变任务的 15 次重述下分数标准差平均为 0.16-0.30。对比修复方案显示,跨基准评估时校准后的均值集成优于最佳单一提示词,而利用开发标签联合选择与校准时则相反。建议将首 token 评分视为提示词族进行评估,并依据是否存在开发标签及部署数据匹配情况选择均值集成或单提示词校准策略。

来源:arXiv · 机器人与计算机视觉 · arxiv.org