跳到正文
热点事件持续更新

OPD 在线蒸馏范式存在视觉后门传播风险

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

Zane Fu 等人提出,针对视觉语言模型的在线蒸馏(OPD)范式,其天然抗后门的直觉被挑战。研究发现一旦超过临界阈值,攻击成功率可迅速接近 100%。 该过程不依赖显式恶意响应,而是由教师模型分配的异常概率质量累积驱动。作者还设计了一种无需显式注入触发器的新型机制,揭示了 OPD 中被忽视的后门传播风险及潜在安全威胁。

AI 根据报道生成 · 12 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv · 机器人与计算机视觉精选
    随着学生模型 rollout 继续,视觉后门持续增长:在线蒸馏中的后门传播风险研究

    本文针对视觉语言模型的在线蒸馏(OPD)范式,挑战了其对后门传播具有天然抵抗力的直觉。研究发现,一旦超过临界阈值,攻击成功率会迅速接近 100%,且该过程不依赖显式恶意响应,而是由教师模型分配的异常概率质量累积驱动。作者提出了一种无需显式注入触发器的新型触发器设计,揭示了 OPD 中被忽视的后门传播机制及其潜在安全风险。

本事件热度走势

可比范围当前
7
可比范围峰值
911月18日 15:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。