跳到正文
arXiv · 机器人与计算机视觉· Christoffer Koo {\O}hrstr{\o}m, Rafael I. Cabral Muchacho, Yifei Dong, Filippos Moumtzidellis, Ronja G\"uldenring, Florian T. Pokorny, Lazaros Nalpantidis·· 17 天前AI 评分58

抛物线位置编码:一种面向视觉的、基于原则的外推与通用方法

Parabolic Positional Encoding: A Vision-Centric, Principled, Extrapolatable, and General Approach

AI 导读

论文提出抛物线位置编码(PaPE),旨在解决将语言领域 1D 序列的位置编码扩展至视觉 nD 结构时未能充分考量视觉特性的问题。该方法基于平移不变性、旋转不变性等原则设计,在 ImageNet-1K 的外推实验中表现优异,绝对提升最高达 10.5;跨 8 个数据集的通用性实验显示,PaPE 在 5 个数据集中匹配最佳基线并在 2 个数据集中超越所有基线。代码已开源。

来源:arXiv · 机器人与计算机视觉 · arxiv.org