Google DeepMind·· 2026-04-22精选AI 评分70
Decoupled DiLoCo:一种面向全球分布数据中心的弹性分布式 AI 训练新架构
Decoupled DiLoCo: A new frontier for resilient, distributed AI training
AI 导读
Google DeepMind 发布 Decoupled DiLoCo(Distributed Low-Communication)架构,旨在解决未来超大规模模型训练中维持数千芯片同步的物流挑战。
推荐理由
DeepMind 推出 Decoupled DiLoCo 架构,支持在低带宽和异构硬件下训练大模型,显著提升分布式训练的容错性与效率。
来源:Google DeepMind · deepmind.google