arXiv · 机器人与计算机视觉· Niclas Hergenr\"other, Antonio Orvieto·· 22 天前AI 评分68
关于视觉基础模型数据高效微调的说明:多架构与微调范式的实证对比
A note on data-efficient finetuning of vision foundation models
AI 导读
该论文针对视觉基础模型(如Mamba)的高效知识转移需求,系统评估了注意力、卷积和Mamba架构在视觉提示(VP)、线性探测(LP)、全量微调(FFT)及低秩适应(LoRA)等范式下的性能差异。研究通过扩展模型选择与超参数调优,提供了在资源受限条件下的实证概览,并探索了常用正则化技术在提升VP性能方面的应用,旨在为高效微调提供实用指导。
来源:arXiv · 机器人与计算机视觉 · arxiv.org