场景与目标：显存不够时，你到底在缺什么？在大模型训练中，“显存不够”往往不是一个单点问题，而是 模型参数、梯度、优化器状态、激活值（activation）、临时张量 共同叠加导致的。为了把问题拆开，我们先用一个粗略但实用的记忆账本来定位开销：参数（weights）：FP16...

本篇定位：为什么多机训练“明明都能跑”，却总是慢或莫名挂在《Ai大模型训练教程：从入门到实战落地的系统课程》里，多机多卡训练通常会在你“模型/数据/脚本都没问题”后，突然卡在网络与通信层：要么 NCCL 报错直接退出，要么不报错但吞吐低得离谱。本篇聚焦多机训练网络排障，围绕...

PyTorch FSDP训练指南：wrap策略、激活重计算与混合精度配置在《Ai大模型训练教程：从入门到实战落地的系统课程》里，FSDP（Fully Sharded Data Parallel）通常是“把单机/单卡能跑的模型，稳定扩到多卡并显著省显存”的关键拼图。本篇聚焦三...

文章定位与前置假设在《Ai大模型训练教程：从入门到实战落地的系统课程》系列中，这一篇聚焦 DeepSpeed ZeRO（Zero Redundancy Optimizer）1/2/3：它们各自“省显存”省在哪里、带来什么代价、以及实际配置时最常见的坑。本文默认你已经能跑通分...

写在前面：为什么并行策略决定了“能不能训”和“训得快不快”在 Ai大模型训练教程 的实战里，你很快会发现：模型、数据、显存、带宽、延迟这五件事绑在一起。单卡跑不动时，第一反应是“加卡”，但加卡后速度反而变慢的情况非常常见，核心原因通常不是算力不够，而是 并行策略导致的通信开...

为什么“对齐评估”必须体系化在“Ai大模型训练教程”这条从入门到落地的路径里，对齐（Alignment）不是一个“训练完顺便看看效果”的环节，而是需要长期运营的质量体系：训练会让模型“更会说”，但未必“更该说”。RLHF / DPO / RLAIF 等方法会改变模型的行为分...

为什么要做安全对齐：把“能用”变成“可控、可上线”在 Ai大模型训练教程 的落地阶段，很多团队会遇到同一个现实问题：基础模型或指令微调模型在常规任务上表现很好，但一旦进入真实业务环境，就会暴露出各种风险——诱导输出违法内容、泄露隐私、被提示注入绕过规则、胡编乱造导致合规事故...

DPO训练从原理到实践：数据格式、beta选择与与PPO的效果对比在《Ai大模型训练教程：从入门到实战落地的系统课程》系列里，如果说 SFT（监督微调）解决的是“让模型学会按指令回答”，那么对齐（Alignment）阶段通常解决的是“让模型更符合人类偏好、更安全、更有用”。...

写在前面：这篇实操解决什么问题在 RLHF（Reinforcement Learning from Human Feedback） 流程里，PPO（Proximal Policy Optimization）几乎是“默认解”。但真正把 PPO 跑起来并跑稳定，常见会卡在三件事...

这篇在系列里的位置：为什么要训练奖励模型（RM）在“Ai大模型训练教程：从入门到实战落地的系统课程”里，奖励模型（Reward Model, RM）通常位于 SFT（监督微调）之后、RLHF/RLAIF（偏好对齐）之前。它的作用是：把“人类偏好/业务偏好”转成一个可微分、可...