arXiv · 机器人与计算机视觉· Jiaxin Deng, Junbiao Pang, Baochang Zhang, Qingming Huang·· 28 天前AI 评分72
面向更平坦极小值的双侧平滑感知最小化方法
Bilateral Sharpness-Aware Minimization for Flatter Minima
AI 导读
针对现有平滑感知最小化仅考虑梯度上升方向平坦性的问题,本文提出利用训练损失与邻域内最小损失的差值作为新指标,并结合两者构建双侧平滑感知最小化方法。理论分析证明该方法收敛于局部极小值,实验显示其在分类、迁移学习、人体姿态估计及网络量化任务中均展现出更优的泛化性能与鲁棒性。
来源:arXiv · 机器人与计算机视觉 · arxiv.org