跳到正文
NVIDIA Technical Blog· Tanya Lenz·· 12 天前AI 评分18

NVIDIA 发布 Reshard Collective 加速强化学习权重重拟合

Accelerating Reinforcement Learning Weight Refit with the Reshard Collective

AI 导读

NVIDIA 推出 Reshard Collective,解决强化学习后训练中推理与训练并行时的 GPU 资源解耦难题。该技术允许在独立 GPU 上运行策略模型推理并实时生成轨迹,同时仅对训练 GPU 更新权重且定期刷新全量参数。此方案显著提升了物理 AI 模型训练的并行效率与资源利用率。

来源:NVIDIA Technical Blog · developer.nvidia.com