arXiv · 机器人与计算机视觉· Yifei Zhu·· 9 天前AI 评分59
超越提示攻击:概念擦除的最小动作审计
Beyond Prompt Attacks: Least-Action Auditing of Concept Erasure
AI 导读
针对文本到图像扩散模型的‘概念擦除’(如 NSFW 内容),现有提示攻击仅测试条件字符串能否检索目标概念,无法衡量冻结生成器对该概念的分配概率。本文提出‘最小动作审计’方法,通过计算驱动冻结反向过程进入检测器定义的事件所需的最小控制成本(即路径空间 KL 散度或事件负对数概率)来量化残留概率。
来源:arXiv · 机器人与计算机视觉 · arxiv.org