大模型学习路线图
LLM LEARNING PATH · 2026

大模型学习路线图

从 Transformer 到今天的主流大模型:一条主线,五条支线,外加一份三十天的论文实训清单。

主线回答「先学什么」,支线回答「想往哪儿深入」,论文实训回答「手上练什么」。三者不是三份清单,而是同一张地图的三种读法。

这是什么 · WHAT THIS IS 一页式大模型学习地图:把「先学什么、往哪深入、手上练什么」合成一张可点击的图,119 个资源直接跳到论文、代码与文档。 A single-page, clickable map for learning large language models — 9 stages, 5 deep-dive branches and a 30-day paper practicum, with 119 curated links straight to papers, code and docs.

9 个阶段 5 条支线 30 篇论文 119 个资源

一、主线:九个阶段

这条线的顺序不建议打乱:每一阶段都在给下一阶段提供参照物。第 02 阶段是整张图的锚点。

二、五条支线

主线上你只需要知道「换了什么」,支线才解释「为什么换、怎么换」。不需要五条都走完,选一到两条深入,就已经比大多数人清楚了。

推理线 Inference 接入:阶段 02 GPT-2

适合 关心速度和成本、想找工程岗的人

模型训好了,怎么让它跑得快、跑得省。这条线最容易上手,也最容易找到工作。入口建议从 KV Cache 开始。

KV Cache

把算过的 K、V 存起来,别每生成一个词就从头算

博客The Transformer Family v2.0各类注意力变体与 KV Cache 的系统梳理

FlashAttention

重排注意力的计算顺序,减少显存读写

PagedAttention

借用操作系统分页思想管理 KV Cache,是 vLLM 的核心

量化

把权重从 16 位压到 8 位甚至 4 位

论文GPTQ
论文AWQ

投机解码

小模型先打草稿,大模型批量验证

推理框架

vLLM、SGLang 把以上技术组装在一起

训练线 Training 接入:阶段 03 预训练

适合 想搞懂大模型为什么这么贵的人

实操门槛最高的一条,大部分人理解原理就够了。

Scaling Law

给定算力,参数和数据怎么分配最划算

数据与分词

清洗、去重、配比,对效果的影响常常比结构改动更大

混合精度

用 BF16 甚至 FP8 训练,省显存、提速度

分布式并行

数据、张量、流水线并行与 ZeRO 各自怎么切

论文ZeRO
论文GPipe
文档The Ultra-Scale Playbook并行训练手册

学习率调度

Warmup 加余弦衰减,大模型稳定性的基本功

对齐线 Alignment 接入:阶段 04 ChatGPT 时刻

适合 想做微调、想看懂 R1 的人

从「会续写」到「听话」再到「会思考」,这条线解释模型的性格怎么被塑造。想动手的话,LoRA 是性价比最高的入口。

SFT

监督微调,用问答数据教模型听指令

论文LIMA: Less Is More for Alignment1000 条数据也能对齐

LoRA / QLoRA

只训练一小部分额外参数,单张消费级显卡也能微调

RLHF

奖励模型加 PPO,也就是 InstructGPT 的方法

DPO

跳过奖励模型,直接用「好回答和坏回答」的偏好数据训练

代码huggingface/trlDPO、PPO、GRPO 都有实现

GRPO

DeepSeek 提出,不需要单独的价值模型,R1 的训练就用了它

论文DeepSeekMathGRPO 的出处
架构线 Architecture 接入:阶段 05 LLaMA

适合 想读懂新模型技术报告的人

这就是阶段 05「换零件」的展开。每个零件都拿 GPT-2 对照,只问三句:原来是什么?现在换成什么?解决了什么问题?

RMSNorm

替换 LayerNorm,去掉均值中心化,更快

SwiGLU

替换原来的 FFN 激活,效果更好但多一个矩阵

RoPE

用旋转代替绝对位置编码,天然带相对位置信息

论文RoFormer

GQA

多个注意力头共享 KV,用一点效果换显存

论文GQA

MLA

DeepSeek 提出,把 KV 压到更低维度

长上下文

几十万甚至上百万 token 怎么处理

应用线 Application 接入:至少走到阶段 04 选学

适合 想做产品、离落地最近的人

主线和其他四条讲模型怎么工作,这条讲怎么用模型。太早转过去,遇到问题时很难判断是模型的能力边界,还是自己用法的问题。

工具调用

让模型调用外部函数和 API

Agent

自己规划多步、调工具、完成任务

多模态

处理图片、语音、视频

三、怎么走这条路

三件事:一个必须停下来的地方,一条关于取舍的判断,一种验证理解的方法。

01
GPT-2 那个阶段一定要停下来做

这是整张图的锚点。手写一遍,哪怕代码写得很笨,后面所有内容都有了参照物。

02
不必每个阶段都做,但要知道每段在哪

五条支线全部学透是好几个方向的专家才有的积累。普通学习者走完主线,再选一到两条支线深入,就已经比大部分人清楚了。

03
学原理时,用一个小例子手算一遍

三个词的句子,四维的向量,把注意力从头到尾算一遍。纸上算过一次,比看十篇科普都管用。

有编程基础的话,主线认真学大约两到三个月;支线按需,没有终点,因为这个领域每个月都在长出新的东西。走到哪个阶段,回来对一下自己的位置就够了。

四、论文实训:三十天,三十篇

30u30 是一份开源自学清单:把 Ilya Sutskever 推荐过的三十篇奠基论文排成一天一篇,每篇配一份从零实现、笔记和练习。放在最后,是因为它更适合当成走完主线后的复习与补课——知道每一篇在补哪一段,读起来会快很多。

三十天不必真是三十天。一天一篇是节奏,不是期限。

它补在主线的哪一段

六组论文,各自补在主线的不同位置。

Day 01–07
序列与压缩对应 阶段 00–01

RNN、LSTM、正则与最小描述长度:先明白「预测下一个字符」为什么能等同于智能,再去看注意力替掉了什么。

Day 08–12
视觉与正则对应 阶段 01

AlexNet、ResNet、空洞卷积、Dropout。残差、归一化、过拟合这些词,在架构线里会一直出现。

Day 13–16
注意力与序列到序列对应 阶段 01–02

Attention 原文、Annotated Transformer、Bahdanau 注意力。读完再手写 GPT-2,顺序最顺。

Day 17–22
记忆、图与关系对应 架构线

神经图灵机、指针网络、关系推理、消息传递、DeepSpeech 2。外部记忆与关系建模的源头。

Day 23–28
生成与规模对应 阶段 03 + 训练线

变分有损自编码器、GPipe、Scaling Laws、柯尔莫哥洛夫复杂度、机器超级智能、CS231n。

Day 29–30
强化学习与人类反馈对应 阶段 04 + 对齐线

PPO 与 RLHF 的原始论文,正好对上 InstructGPT 的三步流程。

缺口也要说清楚30u30 基本停在 2022 年前后:MoE、RoPE、GQA、MLA、推理模型这些 LLM 时代的东西它没有。这不是缺点,是分工——那些留给主线的阶段 06、07 和架构线。

三十天,逐日

按同一组分类排列,左侧是论文,右侧是一句话记住的概念。

两条线并起来走

  1. 01
    阶段 00–01,约两周

    读图解、建直觉,同时做 Day 01–07 与 Day 13–14。先手写一个字符级 RNN,再读注意力,你会清楚它到底替掉了什么。

  2. 02
    阶段 02,约两到三周

    写 GPT-2。这是整张图唯一必须动手的地方,拿 nanoGPT 和 Day 14 的 Annotated Transformer 对照读。

  3. 03
    阶段 03–05,约三到四周

    用 Day 24–25 补并行与 Scaling Law,主线继续读 LLaMA 与 MoE。这时你会开始分得清「效果来自结构还是来自规模」。

  4. 04
    阶段 04 与对齐线,按需

    Day 29–30 是 PPO 与 RLHF 原文,和 InstructGPT 一起读,三步流程就对上了。

END OF THE MAP · 2026