综合实战
大模型底层架构实战：AI 网络与算力系统
大模型训练与推理底层全链路，按模块推进
零基础可学底层全栈工程实战
从零系统学习大模型训练、推理底层全链路，覆盖 3D 并行架构、KV 缓存、量化、RDMA、IB/RoCE 无损网络、NCCL 通信、算力拓扑调度与训推存储分层。
适合人群：IT 工程师、运维人员、网络工程师、希望进入 AI 基础设施领域的技术人员
课程大纲
1
神经网络与大模型
训练与推理的差异；推理侧 KV 缓存、量化、投机解码等概念
2
分布式并行
数据并行、张量并行、流水线并行及其 3D 组合
3
RDMA
从本机 DMA 讲起，介绍远程直接访存、队列与报文如何构成一次跨机读写
4
集合通信
AllReduce、AllGather、ReduceScatter 等原语，以及 NCCL 如何在 NVLink 与跨机 RDMA 之间选路
5
InfiniBand 与 RoCE
IB 协议栈（SM、LID、QP、P_Key、IB CM 建连）与 RoCEv2（PFC、ECN）
6
算力调度
训练与推理如何上卡及拓扑感知放置
7
存储分层
大模型训推中热、温、冷分层的特点与适用场景