arXiv · 机器人与计算机视觉· Wonjun Lee, Vaidehi Patil, Zaid Khan, Yue Zhang, Hyunji Lee, Suhyun Kim, Mohit Bansal·· 2026-10-20AI 评分54
针对跨语言与多模态智能体的潜伏投毒攻击防御研究
Defending Against Dormant Poisoning Attacks Across Language and Multimodal Agents
AI 导读
论文揭示了基础模型作为智能体时潜伏投毒攻击的两大风险:无害微调可激活未见过的新危害行为及多种危害行为的共存激活。作者提出 LookAhead Defense 方法,利用投毒者必须保留发布阶段安全行为的特性构建 Safety Buffer,并预览无害微调更新以仅惩罚削弱安全的行为,在跨语言和多模态智能体上将有害行为率从最高 93.9% 降至 14.2%,同时保持低误拒率和竞争力用性。
来源:arXiv · 机器人与计算机视觉 · arxiv.org