跳到正文
arXiv · 机器人与计算机视觉· Anant Mehta, Xingyu Chen, Xiyuan Wei, Tianbao Yang·· 16 天前AI 评分72

Tune-Up Open-Weight CLIP:一种用于开源 CLIP 自监督微调的优化框架

Tune-Up Open-Weight CLIP: Optimization Framework for Self-Supervised Fine-tuning of CLIP

AI 导读

论文介绍 TuneCLIP 框架,旨在利用现有自监督数据集提升开源 CLIP 模型在多种下游任务上的通用性能,解决标准训练协议导致的性能退化问题。该框架包含两个关键组件:一是基于理论分析的预热阶段以恢复优化统计并减少冷启动偏差;二是微调阶段通过优化新的对比损失来减轻对假负样本对的惩罚。

来源:arXiv · 机器人与计算机视觉 · arxiv.org