跳到正文
arXiv · 机器人与计算机视觉· Ziqing Yang, Yixin Wu, Michael Backes, Yang Zhang·· 4 小时前AI 评分54

Text-Aware, Vision-Blind:多模态图像编辑系统如何处理不安全输入

Text-Aware, Vision-Blind: How Multimodal Image Editing Systems Handle Unsafe Inputs

AI 导读

本文介绍了 EditSafetyBench 基准,包含 5940 对图像指令,覆盖 11 类风险与三种编辑意图。评测显示 Gemini 和 GPT 在拒绝含不安全意图的提示词时分别达 87.1% 和 81.6%,但在同时存在不安全图像且指令中立的情况下仅分别拒绝 24.2% 和 22.4%,暴露出系统级文本与视觉安全机制的不匹配。

来源:arXiv · 机器人与计算机视觉 · arxiv.org