arXiv · 机器人与计算机视觉· Xiao Hu, Muhammad Ibrahim, Hao Wen, Pin-Yu Chen, Jianliang Wu, Antonio Bianchi·· 9 天前AI 评分72
针对视觉上下文学习的查询无关提示无感攻击研究
Query-Only Prompt-Agnostic Attacks on Visual In-Context Learning
AI 导读
该论文研究了在仅能获取 RGB 输出且不知晓部署提示词的情况下,对视觉上下文学习模型的鲁棒性攻击问题。作者提出了一种自提示代理(SPS)方法以跨未知提示迁移攻击,并展示了颜色劫持和任务劫持两种攻击手段能有效降低目标实例的可见性与区分度,导致下游检测模型性能显著下降。
来源:arXiv · 机器人与计算机视觉 · arxiv.org