Hugging Face Daily Papers·· 2026-09-23精选AI 评分78
GTR:基于门控令牌循环的高效稠密预测模型
GTR: Gated Token Recurrence for Efficient Dense Prediction
AI 导读
论文提出 Gated Token Recurrence (GTR),这是一种无需全局 Softmax 注意力的循环视觉骨干网络,结合了门控线性注意力、交替空间扫描方向和增强 SwiGLU 块。
推荐理由
提出无 softmax 的循环骨干网 GTR,通过蒸馏 DINOv3 实现高效稠密预测与多任务迁移。
来源:Hugging Face Daily Papers · arxiv.org