跳到正文
arXiv · 机器人与计算机视觉· Xiangzhong Ye, Zhongshen Li, Shen You, Ziyang Meng, Liang Xu, Junkai Ji, Qiuzhen Lin, Xiangtao Li, Ka-Chun Wong·· 24 天前AI 评分75

TileShare:无需训练加速重叠分块 ViT 解码

TileShare: Training-Free Acceleration of Overlapping Tiled ViT Decoding

AI 导读

针对固定窗口 Vision Transformer 解码器因重叠分块导致的计算冗余问题,该方法在不进行模型微调的情况下,通过保留部分层级的独立注意力机制并融合共享状态,实现了显著的速度提升。

来源:arXiv · 机器人与计算机视觉 · arxiv.org