arXiv · 机器人与计算机视觉· Akarsh Kumar, Jeff Clune, Joel Lehman, Kenneth O. Stanley·· 14 天前AI 评分72
质疑深度学习中的表征乐观主义:断裂纠缠表征假设
Questioning Representational Optimism in Deep Learning: The Fractured Entangled Representation Hypothesis
AI 导读
该位置文挑战了‘性能提升必然意味着内部表征优化’的观点。研究通过生成单张图像的简单任务,对比了经开放搜索进化出的网络与常规随机梯度下降(SGD)训练的网络。结果显示,尽管两者输出行为相同,但SGD训练的网络表现出被称为‘断裂纠缠表征(FER)’的内部混乱,而进化网络则更接近统一的因子化表征。
来源:arXiv · 机器人与计算机视觉 · arxiv.org