写在前面：为什么垂直大模型“项目实战”首先是合规与数据工程在医疗、法律等高敏感行业做垂直大模型训练，最容易踩坑的往往不是模型结构，而是数据是否可用、是否合规、是否能证明质量。一旦发生泄露或“训练数据来源不清”，轻则项目停摆，重则面临监管处罚、诉讼风险与品牌事故。本篇属于《A...

项目目标与交付物：把“安全分类 + 拒答对齐”做成可上线的系统在 Ai大模型训练教程 系列里，讲“安全”最容易陷入概念。但在真实业务里，安全项目通常有两个刚需：安全分类（Safety Classification）：对用户输入/模型输出进行风险识别与分级，例如：暴力、色情、...

背景与目标：为什么“代码补全 + 代码解释”要分开配比与评测在“Ai大模型训练教程：从入门到实战落地的系统课程”系列里，前面通常已经完成了：数据清洗、指令格式统一、SFT（监督微调）基础流程与训练框架搭建。本篇进入项目实战的关键一环：同一模型同时具备“代码补全（comple...

项目目标与场景边界在客服场景里，企业通常积累了大量“历史工单”：包括用户问题、客服回复、转单记录、处理结果、知识库链接等。这些数据天然适合用来构建对话式监督微调（SFT, Supervised Fine-Tuning）数据，让大模型学会“像你的客服一样回答”。本篇作为《Ai...

项目目标与总体架构这篇是《Ai大模型训练教程：从入门到实战落地的系统课程》系列中的“企业知识库指令模型”实战篇。目标是训练一个能在企业内部场景稳定回答问题的模型，并形成 SFT（监督微调）+ RAG（检索增强生成）+ 评测闭环 的工程化流程：SFT：让模型学会企业问答风格、...

这份手册解决什么问题在 Ai大模型训练教程 系列里，很多读者会在“模型终于跑起来”之后，迅速撞上第二堵墙：训练不稳定。典型表现包括：Loss 突然发散（一路上升或剧烈震荡）出现 NaN/Inf（loss=nan、grad=nan、logits=inf）梯度爆炸（grad n...

持续预训练与增量微调到底解决什么问题？在《Ai大模型训练教程：从入门到实战落地的系统课程》里，当你把“基座模型 + 一次性微调”跑通后，下一阶段一定会遇到三类现实挑战：领域迁移：模型在通用语料上很强，但对你的行业（金融、政务、法务、医疗、制造等）术语、流程、文本风格、知识体...

为什么要用大模型生成训练数据（以及它的边界）在“Ai大模型训练教程”系列中，数据始终是训练效果的上限。现实项目里，高质量人工标注数据昂贵、迭代慢、覆盖不全，尤其在对话、工具调用、企业知识问答、代码助手等场景，需求变化快，靠纯人工采集很难跟上。用大模型生成训练数据的核心价值在...

写在前面：多模态大模型训练的“核心矛盾”是什么？在「Ai大模型训练教程」系列里，语言大模型（LLM）的训练多数围绕“文本—文本”建模；而多模态大模型（以图文为主）训练的核心矛盾，变成了：如何把视觉信号稳定地映射到语言空间，并且在不同任务上保持可控的泛化。落地时通常会遇到三类...

系列定位与本文目标本系列《Ai大模型训练教程：从入门到实战落地的系统课程》会从“能跑通”到“能规模化稳定训练/上线”逐步深入。本文聚焦 MoE（Mixture of Experts）大模型训练入门中最容易踩坑、但也最决定工程成败的三件事：路由器（Router）、专家并行（E...