跳到正文
arXiv · 机器人与计算机视觉· Leonard Hackel, Tom Burgert, Beg\"um Demir·· 6 天前AI 评分72

遥感基础模型的冗余性与可压缩性:我们需要多大的模型?

How Much of a Model Do We Need? Redundancy and Slimmability in Remote Sensing Foundation Models

AI 导读

该论文系统检验了计算机视觉缩放定律在遥感领域的适用性,发现遥感基础模型在远小于通用视觉模型的规模下即进入过参数化区域,任务相关信息存在显著冗余。研究对十种最先进模型进行后训练剪枝测试,显示在激进宽度缩减下平均保留 85% 以上分类准确率,而基于自然图像预训练的掩码自编码器性能则急剧下降。

来源:arXiv · 机器人与计算机视觉 · arxiv.org