arXiv · 机器人与计算机视觉· Juyeop Kim, Songkuk Kim, Jong-Seok Lee·· 6 天前精选AI 评分82
扩散模型如何记忆:文本到图像潜在扩散模型的复现机制数学分析
How Diffusion Models Memorize
AI 导读
该论文针对扩散模型无意识复现训练数据的问题,建立了文本到图像潜在扩散模型(含分类器自由引导)的数学解释框架。研究通过追踪去噪步骤中的预测差异,证明在低损失条件下,带提示词的预测能以高概率复现配对训练潜变量;同时量化了引导机制如何放大该偏差及潜变量间的提示影响传递。最终统一解释了现有的检测与缓解策略。材料为 arXiv 预印本版本,未提及同行评审状态或具体实验部署结果。
推荐理由
本文从数学角度统一解释了文本到图像潜在扩散模型在去噪过程中如何复现训练数据,为检测与缓解策略提供理论依据。
来源:arXiv · 机器人与计算机视觉 · arxiv.org