arXiv · 机器人与计算机视觉· Sang In Lee, Jihun Park·· 17 天前AI 评分58
Soft Mixture-of-Recursions:利用递归视觉 Transformer 加深网络深度
Soft Mixture-of-Recursions: Going Deeper with Recursive Vision Transformers
AI 导读
针对 Vision Transformers 单纯增加深度或宽度带来的参数量激增问题,研究提出 Soft Mixture-of-Recursions (SoftMoR) 方法,通过 token 级权重学习融合不同递归阶段的表示。
来源:arXiv · 机器人与计算机视觉 · arxiv.org