EditSafetyBench基准发布:多模态编辑系统安全机制存缺陷
热点事件持续更新
EditSafetyBench基准发布:多模态编辑系统安全机制存缺陷
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Ziqing Yang等人发布了EditSafetyBench基准,用于评估多模态图像编辑系统的级联安全性。该基准包含5940对图像指令,覆盖11类风险与三种编辑意图。 评测结果显示,Gemini和GPT在识别含不安全意图的文本提示时拒绝率分别达87.1%和81.6%,但在面对不安全图像且指令中立的情况时,仅分别以24.2%和22.4%的概率触发安全机制。这暴露了当前系统在文本与视觉安全响应上的不匹配问题。
AI 根据报道生成 · 30 分钟前更新
最新进展11月20日 13:00
Text-Aware, Vision-Blind:多模态图像编辑系统如何处理不安全输入报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- arXiv · 机器人与计算机视觉Text-Aware, Vision-Blind:多模态图像编辑系统如何处理不安全输入
本文介绍了 EditSafetyBench 基准,包含 5940 对图像指令,覆盖 11 类风险与三种编辑意图。评测显示 Gemini 和 GPT 在拒绝含不安全意图的提示词时分别达 87.1% 和 81.6%,但在同时存在不安全图像且指令中立的情况下仅分别拒绝 24.2% 和 22.4%,暴露出系统级文本与视觉安全机制的不匹配。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。