跳到正文
arXiv · 机器人与计算机视觉· Konstantinos Almpanakis, Anna Kreshuk·· 2026-10-15AI 评分59

面向联合嵌入自监督学习的跨批次正则化方法

Dataset-Level Regularization for Joint-Embedding Self-Supervised Learning

AI 导读

针对自监督联合嵌入学习中常规方法仅依赖当前小批量的局限,本文提出跨批次正则化方案,利用 CPU 内存维护数据集级状态并构建全局实例目标。实验表明该方法在自然图像与生物医学数据集上均优于传统小批量估计,能更忠实于全数据集正则化梯度,且在对比学习(SimCLR)与非对比学习(SIGReg)任务中显著提升分类、少数类性能及检索效果。

来源:arXiv · 机器人与计算机视觉 · arxiv.org