跳到正文
arXiv · 机器人与计算机视觉· Chenyu Zhang, Lanjun Wang, Yueyang Cheng, Ruidong Chen, Wenhui Li, An-an Liu·· 10 天前AI 评分43

Diffusion Transformers 如何检测并抑制风险内容:一种无需训练的推理时防护方法

What Concepts Lie Within? Detecting and Suppressing Risky Content in Diffusion Transformers

AI 导读

针对扩散 Transformer 模型生成色情、暴力及版权侵权等风险内容的难题,研究提出了一种无需训练即可在推理阶段生效的防护方案。该方法通过量化注意力头的敏感度构建“注意力头向量”作为判别特征,并利用动量策略动态追踪与自适应抑制高风险 Token 的逻辑值。实验表明,该技术在有效压制各类有害内容并抵御对抗性提示的同时,显著保留了图像生成质量且具备跨模型泛化能力。

来源:arXiv · 机器人与计算机视觉 · arxiv.org