arXiv · 机器人与计算机视觉· Gelesh G. Omathil·· 16 天前AI 评分48
PerNodeDrop:平衡专用子网与正则化的深度神经网络方法
PerNodeDrop: A Method Balancing Specialized Subnets and Regularization in Deep Neural Networks
AI 导读
PerNodeDrop 是一种轻量级随机正则化方法,通过逐样本、逐节点扰动打破现有技术的噪声均匀性,在保留有益共适应的同时抑制虚假模式。该方法将权重丢弃操作从批次级别移至样本级别,有效缩小训练与验证性能差距并提升未见数据可靠性。实验表明,其在视觉、文本和音频基准测试上的泛化能力优于标准基于噪声的正则器。
来源:arXiv · 机器人与计算机视觉 · arxiv.org