OPD 在线蒸馏范式存在视觉后门传播风险
热点事件持续更新
OPD 在线蒸馏范式存在视觉后门传播风险
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
Zane Fu 等人提出,针对视觉语言模型的在线蒸馏(OPD)范式,其天然抗后门的直觉被挑战。研究发现一旦超过临界阈值,攻击成功率可迅速接近 100%。 该过程不依赖显式恶意响应,而是由教师模型分配的异常概率质量累积驱动。作者还设计了一种无需显式注入触发器的新型机制,揭示了 OPD 中被忽视的后门传播风险及潜在安全威胁。
AI 根据报道生成 · 12 小时前更新
最新进展11月18日 13:00
随着学生模型 rollout 继续,视觉后门持续增长:在线蒸馏中的后门传播风险研究报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv · 机器人与计算机视觉精选随着学生模型 rollout 继续,视觉后门持续增长:在线蒸馏中的后门传播风险研究
本文针对视觉语言模型的在线蒸馏(OPD)范式,挑战了其对后门传播具有天然抵抗力的直觉。研究发现,一旦超过临界阈值,攻击成功率会迅速接近 100%,且该过程不依赖显式恶意响应,而是由教师模型分配的异常概率质量累积驱动。作者提出了一种无需显式注入触发器的新型触发器设计,揭示了 OPD 中被忽视的后门传播机制及其潜在安全风险。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 911月18日 15:00
- 近 24 小时变化
- –
02.557.510
16:0018:0020:0022:0011月19日02:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。