arXiv · 机器人与计算机视觉· Nadir Kutluozen, Christian Intern\`o, David Klindt·· 2026-10-19精选AI 评分82
线性探针的成功是否证明存在线性表征?
Is a Linear Probe Evidence of a Linear Representation?
AI 导读
该研究质疑预训练视觉模型中“线性表征假设”的有效性,指出仅凭线性探针的高准确率无法区分真正的线性世界模型与核机器(curved manifold)。作者提出反向预测性、谱浓度和分布外泛化三种不对称诊断方法,在 SVG-World 等基准上验证了预训练产生的结构介于随机核与线性世界模型之间。
推荐理由
文章指出线性探针高准确率不代表存在线性世界模型,提出反向预测性等三种诊断方法区分几何结构。
来源:arXiv · 机器人与计算机视觉 · arxiv.org