Google DeepMind·· 2026-04-22精选AI 评分62
Google DeepMind 推出 Decoupled DiLoCo：实现低带宽、高弹性的跨数据中心分布式训练
Decoupled DiLoCo: A new frontier for resilient, distributed AI training
AI 导读
Google DeepMind 发布 Decoupled DiLoCo，将大规模训练任务拆分到独立的计算岛屿中，岛屿之间以异步数据流通信，单个芯片故障不会中断其他岛屿的训练。
推荐理由
原文给出了具体的训练规模（12B 参数）、带宽条件（2-5 Gbps）和关键结论（比传统方法快 20 倍以上），读者可据此评估该方法是否适用于自己的跨地域训练场景。
来源：Google DeepMind · deepmind.google