跳到正文
arXiv · 机器人与计算机视觉· Xinkai Lu, Junli Zha, Haolan Wei, Jiahui Wang, Chao Zhou, Xiang Song·· 2026-10-12AI 评分63

重定向教师监督:面向视频语言模型的时序响应引导潜在蒸馏

Redirecting Teacher Supervision: Temporal-Response-Guided Latent Distillation for Video-Language Models

AI 导读

针对视频任务中的在线策略蒸馏(OPD)方法未显式利用学生模型时序响应的问题,本文提出 Temporal-Response Guidance (TRG) 方法。该方法通过测量对局部时间扰动的表示响应,将教师修正投影回原始校正并恢复其范数,从而在保持余弦损失值和梯度范数的同时改变监督方向。

来源:arXiv · 机器人与计算机视觉 · arxiv.org