大语言模型概述与历史演进 / Overview and Historical Evolution of LLMs
第 1 章 大语言模型概述与历史演进
引言：什么是大语言模型，它为何在 2017 年后成为 AI 范式的核心
大语言模型（Large Language Model, LLM） 的核心定义可浓缩为一句话：在超大规模文本语料上、以自回归方式预训练的 Transformer 解码器堆叠。然而这一定义在 2017 年之前并不存在。2017 年以前，"语言模型"通常仅指 n-gram 或循环神经网络中的条件概率估计器 $P(w_t \mid w_{<t})$；其规模以百万参数计，用途局限于语音识别语言学打分、机器翻译语言模型融合、检索查询补全等狭窄任务。是 Vaswani 等人于 2017 年发表的"Attention Is All You Need"，以及紧随其后的 GPT-1（2018）与 BERT（2018） 双线并行，将语言模型从一个狭窄的概率估计器，重塑为可承载通用智能表征的基础模型（foundation model）。这一跃迁背后的驱动力并非单一技术突破，而是 自监督预训练目标、Transformer 的可扩展架构、以及算力规模化 三者的耦合——它们共同回答了一个根本问题：当数据量与参数量的乘积足够大时，文本预测任务能否自然涌现出语义理解、推理与生成能力。本章正是围绕这一问题展开：我们将从概率形式化定义出发，沿历史脉络剖析范式跃迁的内在动因，辨析 BERT 与 GPT 两条路线的分歧与汇流，并以代表模型的时间线为锚点，建立全书统一的术语与符号体系。
---
1.1 语言建模的概率形式化与评估基线
1.1.1 联合概率的链式分解与自回归目标
语言建模的数学起点是字符串的联合概率分解。给定一个由离散词元（token）序列 $x_1, x_2, \dots, x_T$ 组成的文本，任意自回归语言模型都基于概率链式法则：
$$P(x_1, x_2, \dots, x_T) = \prod_{t=1}^{T} P(x_t \mid x_1, x_2, \dots, x_{t-1})$$
模型的目标即为精确参数化条件概率 $P_\theta(x_t \mid x_{<t})$。在现代 LLM 中，这一参数化由 带因果掩码（causal mask）的 Transformer 解码器 实现——所谓因果掩码，是在注意力矩阵的上三角置零，使得位置 $t$ 的表示仅能关注 $t$ 之前的词元。这一架构性约束并非偶然：它严格保证了训练目标与生成过程（next-token sampling）的一致性，从而使得模型可在推理时以自回归方式无限延伸生成序列。
训练目标采用极大似然估计，对应的损失函数为负对数似然（Negative Log-Likelihood, NLL）：
$$\mathcal{L}(\theta) = -\frac{1}{T}\sum_{t=1}^{T} \log P_\theta(x_t \mid x_{<t})$$
实践中 NLL 通常按词元平均，并在不同语料上以 交叉熵（cross-entropy） 或 困惑度（Perplexity, PPL） 作为报告指标：
$$\text{PPL}(\mathcal{D}) = \exp\left(-\frac{1}{T}\sum_{t=1}^{T} \log P_\theta(x_t \mid x_{<t})\right)$$
困惑度可解释为"模型在每个位置上平均等价的随机猜测数"。PPL 为 10 意味着模型在预测下一词时，相当于在 10 个等概率候选中做出选择；而现代千亿参数 LLM 在高质量测试集（如 WikiText-103）上可达 PPL < 5，已逼近人类书写的可预测性上限。
1.1.2 困惑度作为能力代理指标的局限
需要强调，困惑度本身并不直接衡量"智能"或"有用性"。困惑度衡量的是模型对自然语言统计规律的拟合度——一个高度压缩、低熵的语料（如学术论文）会比口语对话得到更低的 PPL，但这并不意味着模型在该语料上的下游任务能力更强。这一悖论在 2020 年前后被研究者广泛讨论：GPT-3 在标准 PPL 基准上的提升幅度，远小于其在 few-shot 任务上的飞跃式表现。这意味着，仅凭困惑度无法捕捉模型在推理、指令遵循、长程依赖等高阶能力上的差异。
为此，业界逐步发展出多维度评测体系：MMLU（多任务语言理解）、HumanEval（代码生成）、GSM8K（数学推理）、MT-Bench（对话质量）等。然而这些基准的局限是 数据污染（data contamination） 风险——当测试样本可能已出现在训练语料中，基准分数即失去鉴别力。本书第 11 章将系统讨论 LLM 评估方法学问题。
1.1.3 符号体系与全书约定
为统一后续章节，本书采用如下符号约定（与主流文献一致）：
| 符号 | 含义 | 备注 | |---|---|---| | $\mathbf{x}$ | 输入 token 序列 | $x \in \mathcal{V}^T$，$\mathcal{V}$ 为词表 | | $\mathbf{h}^{(l)}$ | 第 $l$ 层隐状态 | 维度 $d_{\text{model}}$ | | $\mathbf{Q}, \mathbf{K}, \mathbf{V}$ | 注意力机制的查询、键、值矩阵 | 由 $\mathbf{h}$ 线性投影得到 | | $\theta$ | 模型参数集合 | 包含所有可学习权重 | | $L$ | Transformer 层数 | 现代 LLM 通常 32–128 | | $d$ | 隐藏维度 | 通常 4096–16384 | | $n_{\text{ctx}}$ | 上下文长度 | 从早期 512 扩展到百万级 | | $N$ | 参数量 | 以十亿（B）或万亿（T）为单位 |
双语术语对照详见本章 1.7 节。
---
1.2 从统计语言模型到神经语言模型：三次能力跃迁
1.2.1 n-gram 与平滑技术（1990s）
统计语言模型的代表是 n-gram 模型，其条件概率近似为：
$$P(w_t \mid w_{<t}) \approx P(w_t \mid w_{t-n+1}, \dots, w_{t-1})$$
n-gram 模型的优势是参数可枚举、可解释，训练即频次统计。但其内在缺陷是 维度灾难——当 $n$ 增大，n 元组出现频次迅速稀疏，绝大多数上下文从未在训练语料中出现过。为此研究者发展出多种平滑技术：Kneser-Ney 平滑、Good-Turing 估计、插值与回退等。然而这些工程修补无法改变 n-gram 的根本局限：它无法泛化到未见过的上下文组合，因为其表示本质上是离散符号的查表，而非抽象语义。
案例：在 1990 年代，IBM 模型的语音识别系统依赖 4-gram 语言模型重新打分（rescoring）。当词表为 5 万、$n=4$ 时，参数量达 $5 \times 10^4^4$ 的稀疏计数空间，而实际有效参数仅占其中极小部分。这是统计方法第一次暴露规模不可持续的信号。
1.2.2 神经语言模型与词嵌入（2003–2013）
2003 年，Bengio 等人发表 "A Neural Probabilistic Language Model"，首次将前馈神经网络引入语言建模：
$$P(w_t \mid w_{<t}) \approx \text{softmax}(W \cdot \tanh(U \cdot [C(w_{t-n+1}); \dots; C(w_{t-1})] + b))$$
其中 $C \in \mathbb{R}^{|V| \times d}$ 是 词嵌入矩阵（word embedding matrix），$d$ 为嵌入维度。这一架构的革命性贡献在于 将离散符号映射到连续向量空间，使得语义相似的词在向量空间中彼此接近。从此，模型得以通过参数共享在未见过的上下文组合上进行一定程度的泛化——例如，若模型见过 "the cat is walking" 和 "the dog is walking"，则即便未见 "the cat is running"，嵌入空间中的线性结构也能提供归纳偏置。
紧随其后，Word2Vec（GloVe, 2013；Mikolov et al., 2013） 通过 skip-gram 与 CBOW 目标，将词嵌入学习独立化、规模化，证明大规模无监督预训练可得到高质量的语义表征。但 Word2Vec 本质上是 静态嵌入——每个词仅有一个向量，无法区分多义词（如 "bank" 在 "river bank" 与 "bank account" 中含义不同）。
1.2.3 循环神经网络与 LSTM/GRU（2010–2017）
循环神经网络（Recurrent Neural Network, RNN）将语言模型从固定窗口扩展到 理论上无限长的历史：
$$h_t = f(h_{t-1}, x_t)$$
但实践中 RNN 面临 梯度消失与爆炸 问题，导致其难以学习长程依赖。长短期记忆网络（LSTM, Hochreiter & Schmidhuber, 1997） 通过引入遗忘门、输入门、输出门与细胞状态（cell state），将梯度传播路径从纯乘法改为加法主导，显著缓解了梯度消失。门控循环单元（GRU, Cho et al., 2014） 是 LSTM 的简化变体，合并部分门控。
RNN/LSTM 时代（2014–2017）诞生了若干关键里程碑：
- **Sequence-to-Sequence（Seq2Seq, Sutskever et al., 2014）**：编码器-解码器架构，使机器翻译等序列转换任务可端到端训练；
- **注意力机制（Bahdanau et al., 2015）**：允许解码器在生成每个目标词时动态加权源序列的不同位置，解决了 Seq2Seq 中信息瓶颈（编码器需将整个源序列压缩到固定维度向量）；
- **Pointer Networks（Vinyals et al., 2015）**：将注意力拓展为输出分布外的指针，奠定了后续 CopyNet、Transformer 解码器生成的基础。
然而 RNN 的根本局限是 顺序计算（sequential computation）：$h_t$ 严格依赖 $h_{t-1}$，使得训练无法在序列维度并行。这一限制与算力增长的矛盾，是 2017 年 Transformer 兴起的直接动因。
---
1.3 Transformer 革命与预训练范式的确立
1.3.1 "Attention Is All You Need" 的核心主张
2017 年，Vaswani 等人发表 "Attention Is All You Need"，提出完全基于注意力机制的 Transformer 架构。其核心创新可归结为三点：
第一，多头缩放点积注意力（Multi-Head Scaled Dot-Product Attention）：
$$\text{Attention}(Q, K, V) = \text{softmax}\left(\frac{QK^\top}{\sqrt{d_k}}\right)V$$
其中 $Q, K, V$ 分别由输入线性投影得到，$d_k$ 为键向量维度。多头机制允许模型在不同表示子空间中并行关注不同位置关系。
第二，因果掩码与自回归解码：通过在 softmax 输入的上三角置 $-\infty$，可强制每个位置仅关注其左侧，使得同一架构既能用于编码（双向）也能用于解码（自回归）。
第三，完全并行训练：与 RNN 不同，Transformer 的每一层可对整个序列并行计算，使得训练可充分利用 GPU/TPU 的矩阵运算能力。这是其可扩展性的根本来源。
原始 Transformer 论文报告在 WMT 2014 英德翻译任务上达到 28.4 BLEU，超越当时所有 RNN 基线，且训练时间显著缩短。然而该论文本身并未直接讨论语言建模——它首先在机器翻译任务上被验证。这一历史细节提醒我们：Transformer 的"胜利"并非源于语言建模目标，而是源于其作为通用序列建模器的工程优越性。
1.3.2 预训练-微调范式（Pre-train, Fine-tune）
Transformer 出现后不久，研究者意识到其作为特征提取器的强大潜力——既然大规模无标注文本蕴含丰富的语言知识，那么是否可在其上预训练通用表征，再在下游任务上微调？这一 预训练-微调（pre-train, fine-tune） 范式迅速成为 NLP 新标准：
预训练阶段：在大规模无标注文本（如 BooksCorpus、Wikipedia）上以自监督目标训练 Transformer； 微调阶段：在特定下游任务的标注数据上继续训练，调整全部或部分参数。
这一范式的成功有三个关键条件：（1）模型架构足够通用，可承载多任务知识；（2）预训练数据足够大，覆盖广泛语言现象；（3）微调数据足够小，使得任务特定适应成为可能。三个条件在 2017–2018 年首次同时具备。
---
1.4 BERT 与 GPT：双向编码与自回归解码的范式分歧
1.4.1 两条路线的诞生
2018 年是 NLP 历史的分水岭。Google 发布 BERT（Bidirectional Encoder Representations from Transformers, Devlin et al., 2018），OpenAI 发布 GPT-1（Generative Pre-Training, Radford et al., 2018）。两者均基于 Transformer，但选择了截然不同的预训练目标与架构：
| 维度 | BERT | GPT-1 | |---|---|---| | 架构 | Transformer 编码器（双向注意力） | Transformer 解码器（因果掩码） | | 预训练目标 | 掩码语言模型（MLM） + 下一句预测（NSP） | 标准自回归语言建模（next-token prediction） | | 上下文 | 双向：每个位置可看左右 | 单向：每个位置仅看左侧 | | 主要用途 | 理解类任务（分类、问答、NER） | 生成类任务（续写、对话） | | 参数量 | Base: 110M; Large: 340M | 117M | | 训练数据 | BooksCorpus + English Wikipedia (3.3B tokens) | BooksCorpus (1B tokens) |
BERT 的 MLM 目标随机掩盖约 15% 的 token，要求模型根据上下文预测被掩盖词。这种双向上下文使其在 GLUE、SQuAD 等理解类基准上一举刷新记录。然而 BERT 的 结构性缺陷 在于：MLM 目标与生成任务不兼容——生成时需要从左到右展开，而 MLM 训练时假设被预测词的两侧都已存在。这意味着 BERT 无法直接用于开放式生成，必须借助额外的解码器或任务特定架构。
GPT-1 则坚持自回归语言建模——每个 token 预测其右侧的下一个 token。虽然在 GLUE 等理解基准上 GPT-1 略逊于 BERT，但其目标与生成任务天然一致，为后续规模化生成模型铺平了道路。
1.4.2 为什么自回归最终胜出
事后看，自回归范式在 2018–2020 年间逐步胜出，原因是多层次的：
第一，任务兼容性的根本优势。现实世界对语言模型的核心需求是 生成——对话、写作、代码补全、翻译、摘要、推理（在思维链中每一步都是生成）。自回归模型天然适配这些任务，无需额外架构修改；而 BERT 类模型在生成时需要复杂的解码策略或级联架构。
第二，规模化的"零样本迁移"潜力。2020 年 GPT-3（Brown et al., 175B 参数）的论文 "Language Models are Few-Shot Learners" 证明：当模型规模足够大时，自回归语言模型可在不更新参数的情况下，仅凭上下文中的 few-shot 示例完成新任务——这被称为 in-context learning。这一现象在 BERT 类双向模型中难以实现，因为其训练目标不涉及"根据上文预测下文"。
第三，统一目标的简洁性。自回归目标无需任务特定的设计（无 NSP、无 MLM 掩码策略），使得同一损失函数可在万亿级 token 上稳定训练。这种"一个目标、一套架构、一个损失"的极简性，是工程上可持续扩展的关键。
第四，涌现能力的门槛效应。2022 年 Wei 等人的 "Emergent Abilities of Large Language Models" 论文系统证明：在某些能力（多步算术、跨任务推理、上下文校准）上，模型表现仅在规模跨越特定阈值后才显著提升——而这些阈值在自回归模型中更早被突破。
当然，BERT 路线的遗产并未消失——RoBERTa（2019）证明去除 NSP、扩大数据可显著提升双向编码器；T5（2019）探索了统一的 text-to-text 框架；而 DeBERTa、Encoder-Decoder 架构在检索增强生成（RAG）中仍是关键组件。但作为 基础模型 路线，自回归解码器已成为绝对主流。
1.4.3 案例拆解：BERT-large 与 GPT-1 在 SQuAD 上的表现对比
为具体展示两条路线的差异，我们以 SQuAD 1.1（Stanford Question Answering Dataset）为例：
- **BERT-base**：F1 分数 88.5（fine-tuned），EM 80.8
- **GPT-1**：未经微调无法直接用于 SQuAD（无段落-问题匹配结构）；微调后 F1 仅约 75（远低于 BERT）
- **BERT-large**：F1 93.2，EM 87.4
此案例清晰表明：在 抽取式问答 任务上，双向编码器的细粒度匹配能力远超自回归模型。然而时过境迁——2023 年后的 GPT-4、Claude 3 等自回归模型通过 指令微调 + RLHF，在生成式问答上的表现已远超当时的 BERT。路线分歧的最终结局，并非单向淘汰，而是不同架构适配不同场景。但作为 通用基础模型，自回归路线胜出。
---