跳到正文
arXiv · 机器人与计算机视觉· Sahar Dastani, Fereshteh Shakeri, Samuel Barbeau, Kunal Mahatha, Ismail Ben Ayed, Herve Lombaert, Christian Desrosiers·· 15 天前精选AI 评分78

LiSA:用于长程视觉建模的线性随机注意力

LiSA: Linear Stochastic Attention for Long-Range Visual Modeling

AI 导读

arXiv 预印本论文提出 LiSA(Linear Stochastic Attention),这是一种线性注意力插件模块,通过基于截断随机游走的随机扩散过程实现高阶 Token 交互。该方法具备自适应局部性以保留细粒度结构,并在分类、语义分割和目标检测任务上展示了优于最先进方法的实验结果。

推荐理由

提出基于截断随机游走的线性随机注意力模块,在分类与分割任务上优于现有方法。

来源:arXiv · 机器人与计算机视觉 · arxiv.org