适合 关心速度和成本、想找工程岗的人
模型训好了,怎么让它跑得快、跑得省。这条线最容易上手,也最容易找到工作。入口建议从 KV Cache 开始。
FlashAttention
重排注意力的计算顺序,减少显存读写
PagedAttention
借用操作系统分页思想管理 KV Cache,是 vLLM 的核心
投机解码
小模型先打草稿,大模型批量验证
推理框架
vLLM、SGLang 把以上技术组装在一起
从 Transformer 到今天的主流大模型:一条主线,五条支线,外加一份三十天的论文实训清单。
主线回答「先学什么」,支线回答「想往哪儿深入」,论文实训回答「手上练什么」。三者不是三份清单,而是同一张地图的三种读法。
这是什么 · WHAT THIS IS 一页式大模型学习地图:把「先学什么、往哪深入、手上练什么」合成一张可点击的图,119 个资源直接跳到论文、代码与文档。 A single-page, clickable map for learning large language models — 9 stages, 5 deep-dive branches and a 30-day paper practicum, with 119 curated links straight to papers, code and docs.
这条线的顺序不建议打乱:每一阶段都在给下一阶段提供参照物。第 02 阶段是整张图的锚点。
主线上你只需要知道「换了什么」,支线才解释「为什么换、怎么换」。不需要五条都走完,选一到两条深入,就已经比大多数人清楚了。
适合 关心速度和成本、想找工程岗的人
模型训好了,怎么让它跑得快、跑得省。这条线最容易上手,也最容易找到工作。入口建议从 KV Cache 开始。
重排注意力的计算顺序,减少显存读写
借用操作系统分页思想管理 KV Cache,是 vLLM 的核心
小模型先打草稿,大模型批量验证
vLLM、SGLang 把以上技术组装在一起
适合 想搞懂大模型为什么这么贵的人
实操门槛最高的一条,大部分人理解原理就够了。
清洗、去重、配比,对效果的影响常常比结构改动更大
Warmup 加余弦衰减,大模型稳定性的基本功
适合 想做微调、想看懂 R1 的人
从「会续写」到「听话」再到「会思考」,这条线解释模型的性格怎么被塑造。想动手的话,LoRA 是性价比最高的入口。
奖励模型加 PPO,也就是 InstructGPT 的方法
适合 想读懂新模型技术报告的人
这就是阶段 05「换零件」的展开。每个零件都拿 GPT-2 对照,只问三句:原来是什么?现在换成什么?解决了什么问题?
几十万甚至上百万 token 怎么处理
适合 想做产品、离落地最近的人
主线和其他四条讲模型怎么工作,这条讲怎么用模型。太早转过去,遇到问题时很难判断是模型的能力边界,还是自己用法的问题。
回答前先检索资料,降低幻觉
自己规划多步、调工具、完成任务
三件事:一个必须停下来的地方,一条关于取舍的判断,一种验证理解的方法。
这是整张图的锚点。手写一遍,哪怕代码写得很笨,后面所有内容都有了参照物。
五条支线全部学透是好几个方向的专家才有的积累。普通学习者走完主线,再选一到两条支线深入,就已经比大部分人清楚了。
三个词的句子,四维的向量,把注意力从头到尾算一遍。纸上算过一次,比看十篇科普都管用。
有编程基础的话,主线认真学大约两到三个月;支线按需,没有终点,因为这个领域每个月都在长出新的东西。走到哪个阶段,回来对一下自己的位置就够了。
30u30 是一份开源自学清单:把 Ilya Sutskever 推荐过的三十篇奠基论文排成一天一篇,每篇配一份从零实现、笔记和练习。放在最后,是因为它更适合当成走完主线后的复习与补课——知道每一篇在补哪一段,读起来会快很多。
三十天不必真是三十天。一天一篇是节奏,不是期限。
六组论文,各自补在主线的不同位置。
RNN、LSTM、正则与最小描述长度:先明白「预测下一个字符」为什么能等同于智能,再去看注意力替掉了什么。
AlexNet、ResNet、空洞卷积、Dropout。残差、归一化、过拟合这些词,在架构线里会一直出现。
Attention 原文、Annotated Transformer、Bahdanau 注意力。读完再手写 GPT-2,顺序最顺。
神经图灵机、指针网络、关系推理、消息传递、DeepSpeech 2。外部记忆与关系建模的源头。
变分有损自编码器、GPipe、Scaling Laws、柯尔莫哥洛夫复杂度、机器超级智能、CS231n。
PPO 与 RLHF 的原始论文,正好对上 InstructGPT 的三步流程。
读图解、建直觉,同时做 Day 01–07 与 Day 13–14。先手写一个字符级 RNN,再读注意力,你会清楚它到底替掉了什么。
写 GPT-2。这是整张图唯一必须动手的地方,拿 nanoGPT 和 Day 14 的 Annotated Transformer 对照读。
用 Day 24–25 补并行与 Scaling Law,主线继续读 LLaMA 与 MoE。这时你会开始分得清「效果来自结构还是来自规模」。
Day 29–30 是 PPO 与 RLHF 原文,和 InstructGPT 一起读,三步流程就对上了。