arXiv · 机器人与计算机视觉· Menghao Li, Linjie Mu, Haotian Hu, Yannian Gu, Lujiayi Xue, Liujian Tang, Yu Zhang, Fanyi Wang·· 2026-10-15AI 评分70
CA-OPD:一种面向结构化视觉预测的置信度感知在线策略蒸馏方法
CA-OPD: Confidence-Aware On-Policy Distillation for Structured Visual Prediction
AI 导读
针对自回归视觉语言模型在训练与推理不匹配下易产生累积误差的问题,本文提出 CA-OPD 框架,利用教师模型的置信度选择性地修正学生模型不可靠的转换。该方法通过严格的到宽松的调度逐步将 rollout 控制权转移给学生,并将知识传递与干预决策对齐:被修正的位置接收教师的交叉熵监督,保留的位置则受益于教师的全部分布预测。
来源:arXiv · 机器人与计算机视觉 · arxiv.org