arXiv · 机器人与计算机视觉· Alexandra G. Roberts, Maneesh John, Jinwei Zhang, Dominick Romano, Mert Sisman, Ki Sueng Choi, Heejong Kim, Mert R. Sabuncu, Thanh D. Nguyen, Alexey V. Dimov, Pascal Spincemaille, Brian H. Kopell, Yi Wang·· 5 小时前AI 评分43
Spectral Vision Transformer 用频谱模式替代空间分块实现高效 Tokenization,在医疗影像等数据稀缺场景表现优异
Spectral Vision Transformer for Efficient Tokenization with Limited Data
AI 导读
Spectral Vision Transformer 架构将图像 Token 定义为固定基系的频谱模式而非空间分块,显著降低注意力计算成本。该模型在 MedMNIST3D、自然图像及受保护临床数据等基准上,于数据稀缺条件下展现出优于或可比拟的性能。代码已开源,论文包含 14 个表格与 9 幅图表的详细实验分析。
来源:arXiv · 机器人与计算机视觉 · arxiv.org