跳到正文
arXiv · 机器人与计算机视觉· Feifei Li, Runjie Wang, Xiaohan Zhang, Zhenxing Qian, Mi Wen, Mi Zhang·· 2026-10-09AI 评分72

当场景文本劫持场景:揭示、利用与缓解图像生成模型中的渲染文本语义泄漏

When Scene Text Hijacks the Scene: Uncovering, Exploiting, and Mitigating Rendered-Text Semantic Leakage in Image Generation Models

AI 导读

该论文研究图像生成模型中渲染文本的语义泄漏现象,发现渲染文本虽为局部视觉约束,但其语言语义可能被模型解读为输入指令的一部分,从而成为潜在的安全控制通道。研究通过解耦主视觉提示词与渲染文本,量化了语义泄漏与渲染保真度,并证明嵌入场景文本的危害性语义可经 LLM 增强管道持续存在并引导非文本区域。

来源:arXiv · 机器人与计算机视觉 · arxiv.org