跳到正文
arXiv · 机器人与计算机视觉· Andy Li, Aiden Durrant, Milan Markovic, Georgios Leontidis·· 22 天前AI 评分60

HiAP:一种多粒度随机自动剪枝框架用于视觉 Transformer

HiAP: A Multi-Granular Stochastic Auto-Pruning Framework for Vision Transformers

AI 导读

论文提出 HiAP 框架,将 ViT 剪枝转化为单阶段预算感知学习问题,联合分配四个粒度的稀疏度。该方法引入宏观与微观层面的随机 Gumbel-Sigmoid 门控,无需重要性启发式或二次微调即可收敛至稠密子网络。

来源:arXiv · 机器人与计算机视觉 · arxiv.org