arXiv · 机器人与计算机视觉· Tobias Braun, Jonas Henry Grebe, Emil Sivic, Patrick Mohr Gordillo, Hossein Shakibania, Marcus Rohrbach, Anna Rohrbach·· 2026-10-06AI 评分72
被投毒的对话:统一多模态模型中的隐私泄露水印
The Poisoned Conversation: Privacy-Leaking Watermarks in Unified Multimodal Models
AI 导读
文章介绍隐私泄露水印(PLWs),这是一种恶意模型提供者可利用先前聊天历史触发的隐形水印技术。该攻击打破了传统隔离,使早期对话中提及的敏感关键词或语义线索能导致后续生成的无关图像携带可检测的水印。研究在 13 个敏感属性触发器和两个模型家族上验证,OmniGen2 等模型在检测到抑郁披露时准确率达 100%,误报率仅 1%。
来源:arXiv · 机器人与计算机视觉 · arxiv.org