Someone wanted to learn this too, so Grasp built them a personal learning path.
You can keep exploring this one or create a path like this one shaped around you.
Recommended resources
Module 1
建立超大规模训练系统的量化基础
Module 2
分布式训练并行与通信模型
Module 3
MoE 路由、专家并行与负载均衡
Module 4
低带宽 ASIC 与 FP8 权重转换分析
Module 5
从 8 卡功能闭环到 64 卡模型映射
Module 6
大模型后训练中的 PPO、GRPO 与序列级策略优化
Module 7
异步强化学习的数据流与大批量 Rollout
Module 8
静态资源池下的异步协同与 FP8 权重同步
Module 9
5T MoE 的容量、性能与成本模型
Module 10
8 卡与 64 卡验证及性能诊断
Module 11
生产可靠性、可观测性与大规模运行
Module 12