arXiv · 机器人与计算机视觉· Michael Schroeder·· 13 小时前AI 评分38
紧凑视觉骨干网络中全局自注意力与权重共享的有效位置研究
Where Global Context and Weight Sharing Work in Compact Vision Backbones
AI 导读
该研究在 ImageNet-1k 上验证了紧凑卷积骨干(EfficientNet-B0)的设计策略,发现仅在 P3、P4、P5 阶段插入轻量零门控残差自注意力适配器时,模型精度达 74.02%。实验表明交替共享 Stage 6 的块模板可将参数量减少 10.9%(至 582K),并在单轮训练中恢复 10.82 个百分点的精度。论文为预印本状态,代码与权重暂未开放。
来源:arXiv · 机器人与计算机视觉 · arxiv.org