arXiv · 机器人与计算机视觉· Nilotpal Kakati·· 24 天前精选AI 评分78
Shared Is Not Enough:掩码潜在预测中的预测器宽度与因子可读性研究
Shared Is Not Enough: Predictor Width and Factor Readability Under Masked Latent Prediction
AI 导读
Nilotpal Kakati 提出掩码潜在预测方法(如 I-JEPA)的信息保留机制尚不明确,为此构建了已知所有图像因子的模拟器以测量训练后各因子的可读性。实验显示,在相同视图对下,I-JEPA 使用半宽度的预测器时因子可读性中位数仅为 SimCLR 的约 40%,而将预测器宽度扩展至与编码器一致则逆转了这一排序。作者开源了该模拟器及训练好的模型。
推荐理由
作者构建了可测量因子可读性的模拟器,发现掩码潜在预测中预测器宽度对信息保留起关键作用。
来源:arXiv · 机器人与计算机视觉 · arxiv.org