跳到正文
arXiv · 机器人与计算机视觉· Zeyu Ye, Yanchun Li, Sibei He, Meng Xie, Hangtao Zhang, Xianlong Wang, Li Zeng, Jiahao Chen, Yichen Wang, Junhui Wang, Ziqi Zhou·· 2026-10-09AI 评分74

虚假声明、可信图像:面向商业图像生成器的红队评测基准

False Claims, Credible Images: A Red-Teaming Benchmark for Commercial Image Generators

AI 导读

论文介绍 EpiReal-Bench 基准和 EpiReal-Attack 框架,针对商业图像生成器(如 GPT-Image-2)评估视觉虚假信息风险。实验显示超过 70% 的虚假声明提示词能诱导出忠实描绘该信息的图像,攻击框架将这一比率推至 95%,揭示了当前对齐机制在视觉 misinformation 领域的盲区。

来源:arXiv · 机器人与计算机视觉 · arxiv.org