跳到正文
arXiv · 机器人与计算机视觉· Chih-Ting Liao, Kezhen Bao, Xin Cao·· 23 天前AI 评分72

CLIP 微调增量中的功能性内容测量:回退、保留与语义干预

Reversion, Retention, and Semantic Intervention: Measuring Functional Content in CLIP Fine-Tuning Deltas

AI 导读

该研究针对预训练模型微调后难以识别哪些权重变化支持新任务行为的问题,提出通过回退(恢复参数至预训练值)和保留(仅保留选定微调更新)配对实验来评估功能贡献。作者在合成金融图表及 Flowers102 等数据集上对 CLIP 模型进行了最终六层视觉块的微调实验。

来源:arXiv · 机器人与计算机视觉 · arxiv.org