Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构

Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构，把训练任务拆成解耦的计算孤岛并以异步数据流连接，从而隔离局部硬件故障。该架构基于 Pathways 和 DiLoCo，在混沌工程测试中丢失整个 learner unit 后仍能继续训练并重新接入；用 Gemma 4 模型验证时，其基准 ML 性能与传统训练方法持平。