跳到正文
arXiv · 机器人与计算机视觉· Ching Lam Choi, Antonio Torralba, Phillip Isola, Stefanie Jegelka·· 9 天前AI 评分74

塑造有用噪声:能量分布预测视觉预训练质量

Shaping Useful Noise: Energy Distributions Predict Visual Pretraining Quality

AI 导读

该论文提出使用数据集的能量分布(归一化真实图像密度模型下的对数概率水平分布)作为合成数据的审计与策展原则。作者引入能量 - 层级距离指标,证明其能揭示 FID 等现有指标遗漏的分布不匹配,并预测 CNN 和 ViT 自监督预训练的性能。研究进一步利用该指标重采样和混合合成数据源,在保持多样性的同时匹配真实图像能量直方图,从而提升下游迁移效果。

来源:arXiv · 机器人与计算机视觉 · arxiv.org