跳到正文
arXiv · 机器人与计算机视觉· Victor Bercy, Martyna Poreba, Michal Szczepanski, Samia Bouchafa·· 13 天前AI 评分42

G2TM 实现解码器无关的 Token 合并,在多种架构下降低 22-47% GFLOPs 并提升吞吐量最高 74%,代码开源待 CCIS 发表

Decoder-Agnostic Token Merging for Vision Transformers: A Systematic Study of G2TM

AI 导读

G2TM 模块在 Segmenter、SETR、EoMT 及图像分类任务中均验证了其对编码器有效性的解码器无关特性。该技术在 ADE20K 数据集上将 GFLOPs 降低 22-47% 且吞吐量提升最高达 74%,性能增益主要取决于骨干网络预训练与目标数据集。相关代码已开源,论文扩展版待 Springer CCIS 期刊发表。

来源:arXiv · 机器人与计算机视觉 · arxiv.org