大模型项目基础知识补全
大模型训练
2026/7/29
梳理GPU训练技术栈与Docker环境,介绍NCCL多卡通信,并解析DDP梯度同步及通信与反向计算重叠机制。