arXiv · 机器人与计算机视觉· Nairouz Mrabah, Ismail Ben Ayed, Eric Granger·· 9 天前AI 评分49
全量微调非问题:为何 Adam 失败而 SGD 在少样本 CLIP 适配中成功
Full Fine-Tuning is not the Problem: Why Adam Fails and SGD Succeeds in Few-Shot CLIP Adaptation
AI 导读
该研究通过 11 个数据集、3 种 CLIP 骨干及 5 个 shot 水平的实验证明,在全量微调下普通 SGD 优于代表性 PEFT 方法,而 Adam/AdamW 因支持集预条件化不可靠导致崩溃。理论形式化了少样本估计误差如何被放大为不安全更新,证实优化器诱导的预条件化而非全量微调本身是失败主因。论文已接受发表于 NeurIPS 2026,代码与权重开放许可待确认。
来源:arXiv · 机器人与计算机视觉 · arxiv.org