arXiv · 机器人与计算机视觉· Zeyu Ye, Yanchun Li, Sibei He, Meng Xie, Hangtao Zhang, Xianlong Wang, Li Zeng, Jiahao Chen, Yichen Wang, Junhui Wang, Ziqi Zhou·· 2026-10-09AI 评分74
虚假声明、可信图像:面向商业图像生成器的红队评测基准
False Claims, Credible Images: A Red-Teaming Benchmark for Commercial Image Generators
AI 导读
论文介绍 EpiReal-Bench 基准和 EpiReal-Attack 框架,针对商业图像生成器(如 GPT-Image-2)评估视觉虚假信息风险。实验显示超过 70% 的虚假声明提示词能诱导出忠实描绘该信息的图像,攻击框架将这一比率推至 95%,揭示了当前对齐机制在视觉 misinformation 领域的盲区。
来源:arXiv · 机器人与计算机视觉 · arxiv.org