arXiv · 机器人与计算机视觉· Aleksandr Druzhinin·· 2026-10-20AI 评分64
基于路径条件的注意力迁移:从 SegFormer 的深度到执行枢纽
Path-Conditioned Attention Mobility: From Depth to Execution Hubs in SegFormer
AI 导读
该论文研究了分层视觉 Transformer 中注意力功能的局部移动性,发现仅迁移头部不足,需联合适配周围表示边界并保留特定归一化与预处理才能维持功能。研究将 SegFormer-B5 的 120 个保留头从 40 个执行深度重组为 20 个执行枢纽,在布局匹配的恢复控制下,K20 架构达到 0.960686 mIoU,与 State120 对照无显著质量惩罚。
来源:arXiv · 机器人与计算机视觉 · arxiv.org