跳到正文
arXiv · 机器人与计算机视觉· Chenzhi Zheng, Xi Xiao, Chih-Ting Liao, Qizhen Lan, Jingwen Lin, Tianyang Wang, Hao Xu, Xin Cao·· 3 天前AI 评分56

超越端点:基于贝塞尔曲线的视觉基础模型适应方法

Beyond Endpoints: B\'ezier Paths for Vision Foundation Model Adaptation

AI 导读

该研究提出通过学习少量共享提示词来适应冻结的视觉基础模型,并首次从理论上量化了特征空间传输的成本。研究发现,由于共享提示词与图像内容竞争注意力,仅靠线性插值往往无法沿最短路径移动;二次贝塞尔曲线路径能显著减少额外动作成本,在 VTAB-1k 数据集上提升了无标签分布偏移下的中间精度和在线准确率。论文给出了可解析的注意力模型分析,揭示了内容归一化对可达性的阈值效应,并提供了项目页面链接供复现。

来源:arXiv · 机器人与计算机视觉 · arxiv.org