# 预训练

大模型是怎么炼成的：预训练+微调

前面我们拼好了 Transformer 这栋楼。但它现在只是一张「什么都不会」的白纸——就像刚出生的婴儿，大脑结构再完美，也得先学说话。这篇讲大模型是怎么「长大成人」的，整个过程大致分三个阶段：预训练、指令微调、人类反馈强化学习。