跳到正文
热点事件持续更新

EditSafetyBench基准发布:多模态编辑系统安全机制存缺陷

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Ziqing Yang等人发布了EditSafetyBench基准,用于评估多模态图像编辑系统的级联安全性。该基准包含5940对图像指令,覆盖11类风险与三种编辑意图。 评测结果显示,Gemini和GPT在识别含不安全意图的文本提示时拒绝率分别达87.1%和81.6%,但在面对不安全图像且指令中立的情况时,仅分别以24.2%和22.4%的概率触发安全机制。这暴露了当前系统在文本与视觉安全响应上的不匹配问题。

AI 根据报道生成 · 30 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv · 机器人与计算机视觉
    Text-Aware, Vision-Blind:多模态图像编辑系统如何处理不安全输入

    本文介绍了 EditSafetyBench 基准,包含 5940 对图像指令,覆盖 11 类风险与三种编辑意图。评测显示 Gemini 和 GPT 在拒绝含不安全意图的提示词时分别达 87.1% 和 81.6%,但在同时存在不安全图像且指令中立的情况下仅分别拒绝 24.2% 和 22.4%,暴露出系统级文本与视觉安全机制的不匹配。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。