PyTorch Monarch 教程
欢迎来到 PyTorch Monarch 教程中心。无论你是分布式编程的新手,还是寻求构建千卡级集群的专家,这里都有适合你的内容。本教程对齐官方仓库 meta-pytorch/monarch 最新版,随官方更新持续演进。
📚 教程目录
🌱 初级教程 (Beginner)
适合刚刚接触 Monarch 的开发者。
- 01 - 简介与安装: 理解单控制器模型,用
pip install torchmonarch完成环境配置。 - 02 - Actor 基础: 定义 Actor、生命周期与
__cleanup__,在本地启动第一个 Actor 网格。 - 03 - 远程调用与消息传递: 掌握 call / broadcast / stream / choose 五大副词与消息顺序保证。
🚀 中级教程 (Intermediate)
适合希望管理多 GPU 资源的开发者。
- 01 - 核心概念:网格: 深入理解 ProcMesh / ActorMesh / extent 与多机 HostMesh。
- 02 - 网格操作: 维度切片、flatten 技巧、Actor 引用传递与 context()。
- 03 - 分布式张量: activate / reduce / rename / split 与流水线并行。
🛠️ 高级教程 (Advanced)
适合构建生产级系统和架构师。
- 01 - 架构揭秘: 控制平面/数据平面分离与 Rust Hyperactor 引擎。
- 02 - 渐进式容错: 所有权原则、监督树、
__supervise__与 unhandled_fault_hook。 - 03 - 生态集成: TorchTitan LLM 训练与 GRPO 强化学习工作流实战。
- 04 - 可观测性: 分布式遥测 SQL、Monarch Dashboard 与 Mesh Admin TUI。
- 05 - RDMA 编程: RDMABuffer 引用与搬运分离、单边传输与参数服务器模式。
- 06 - 实战示例: 从 ping_pong 到 DDP 再到 GRPO 的官方示例走读。
- 07 - Cookbook 速查: 经过官方 CI 验证的常用配方:rank 选取、端口扇入、乱序响应。
