大模型是怎么学会说话的？
关键词：模型训练 · 预训练 + 微调
一句话说清先用海量文本「预训练」，学会语言规律和常识；再用精心准备的问答「微调」，学会听指令、好好回答。
打个比方
像培养一个学生：先让他读完整座图书馆（预训练），再请老师手把手教他怎么答题、怎么礼貌说话（微调）。
记住这一点
预训练学「知识」，微调学「规矩」。
举个例子
预训练：反复练习「根据前文，猜下一个词」 微调：学习大量「问题 → 好回答」的示范 人类反馈：人给多个回答打分，模型学着往高分方向调整
常见误区
- ✕ AI 每次聊天都在学习✓ 大多数产品里，你的一次对话不会马上改变模型本身。
- ✕ 训练就是把资料存进去✓ 模型学的是规律，不是把原文一字不差地存起来，所以它也会记错。
动手试一试
问 AI：「用一个比喻向小学生解释你是怎么被训练出来的。」看看它怎么描述自己。
考考你
3 道小题，看看这张卡片记住了多少。选完马上能看到解析。
1大模型训练通常分哪两个主要阶段？
预训练学“知识”，微调学“规矩”。
2预训练时，模型反复练习的是？
通过海量文本练习“猜下一个词”，学会语言规律和常识。
3你和 AI 聊一次天，模型本身会立刻变聪明吗？
模型的训练是单独进行的，日常对话通常不会即时改变它。
接着翻这几张
灵点AI 知识卡片 · 第 33 / 48 张