arXiv · 机器人与计算机视觉· Seungyoon Woo, Keonhee Park, Gunhee Kim·· 2026-10-19AI 评分73
COMET:面向任务无关的持续视觉语言学习的解耦蒸馏、路由与容量控制
COMET: Decoupled Distillation, Routing, and Capacity Control for Task-Agnostic Continual Vision--Language Learning
AI 导读
该研究针对视觉语言模型在开放世界场景下无法重训骨干网络的挑战,提出 COMET 框架以应对模态一致性漂移、表征空间干扰及单任务容量不足三大压力。方法上利用冻结教师提供特征参考,通过三亲和力蒸馏保持几何结构,并设计学生感知跨专家蒸馏使路由错误优雅降级;同时分离容量与推理机制,利用上下文多臂老虎机管理专家合并,结合重建路由器在测试时稀疏选择专家。
来源:arXiv · 机器人与计算机视觉 · arxiv.org