arXiv · 机器人与计算机视觉· Pu Cao, Min Zhou, Ying Shu, Tiezheng Ge, Qing Song, Lu Yang·· 12 小时前AI 评分71
当锚点偏移目标:用于扩散强化学习的优势门控适应
When Anchors Shift the Target: Advantage-Gated Adaptation for Diffusion Reinforcement Learning
AI 导读
论文指出前向过程强化学习在利用移动策略副本作为锚点进行稳定训练时,会因负优势导致凹性更新干扰正反馈教学。作者形式化这一冲突为锚点耦合问题,并提出优势门控适应方法,通过参数无关的门控函数区分处理正样本的目标拟合与负样本的局部排斥方向,同时利用冻结预训练参考保留长程行为。实验表明该方法在组合生成、文本渲染和偏好对齐任务中提升了奖励与质量的权衡效果。
来源:arXiv · 机器人与计算机视觉 · arxiv.org