生成式AI入门：当机器开始做梦
想象一下，你教一个孩子画画。最初，他可能只能画些歪歪扭扭的圆圈，代表太阳；几根乱线，便是草地。但渐渐地，通过观察无数张图片，他学会了光影如何塑造立体感，色彩如何相互交融，最终能创作出令人惊叹的作品。现在，把这个“孩子”换成一台机器——这就是生成式AI正在做的事情。它不再是被动地识别猫狗，而是主动地“想象”出一只从未存在的猫，或是一幅从未被画过的风景。本章，我们将踏上一段旅程，揭开机器“做梦”的秘密：从早期那些刻板、遵循固定规则的“素描本”，到如今能创作出以假乱真艺术的“数字画布”。我们会探讨，机器究竟是如何从海量数据中窥见世界的“概率分布”，并从中编织出全新内容的。这趟旅程的起点，并非某个突如其来的奇迹，而是一系列深刻的思想革命与计算力的飞跃。准备好了吗？让我们走进机器思维的画室，看看它如何握紧像素的画笔。
---
一、从规则到学习：AI的“素描本”时代
在生成式AI的黎明之前，人工智能的世界由“规则”主宰。上世纪50-80年代，符号主义AI（Symbolic AI）是绝对的王者。其核心思想是：智能源于对符号的操作与推理。要让计算机“理解”世界，程序员必须成为那个世界的“立法者”，用一行行代码，将人类的知识、逻辑和规则，一丝不苟地翻译成机器能懂的语言。
一个经典的例子是早期的国际象棋程序。程序员需要教会计算机每个棋子的走法（“马走日，象走田”）、杀王规则，甚至一些开局残局的定式。计算机的“智能”体现在它如何高效地搜索这些预设规则下的可能走法，并选择最优解。它本身并不“理解”棋局的“美”或“险”，它只是在执行一套精密的逻辑程序。这种模式在结构化、规则明确的领域（如定理证明、简单棋盘游戏）取得了成功，但其 brittle（脆弱）的本质暴露无遗：一旦面对规则模糊、情境复杂或需要常识推理的任务，比如“描述这张图片的内容”或“写一首诗”，基于规则的系统便立刻陷入困境。为“猫”这个概念编写规则？你需要定义“有毛茸茸的耳朵”、“有胡须”、“有锐利的瞳孔”……但现实世界中的猫千姿百态，有折耳猫、无毛猫、睡着的猫、只露出尾巴的猫，规则很快变得无穷无尽且充满例外。更致命的是，它完全无法“创造”。你无法通过规则列表，让计算机“发明”一个全新的、合理的生物形态。
这种困境，催生了第一次重要的范式转移：从“知识编程”到“从数据中学习”。机器学习（Machine Learning）的思想悄然兴起：与其告诉机器所有规则，不如给它大量示例，让它自己找出其中的模式和规律。最初的生成尝试，便诞生于这个过渡期。
一个里程碑式的想法是马尔可夫链（Markov Chain），一个早在1913年就由数学家安德雷·马尔可夫提出的概率模型。它描述了一个系统在未来状态只依赖于当前状态，而与过去状态无关的特性。在文本生成中，这可以简化为：下一个词的出现概率，只取决于它前面的几个词。基于此，我们可以构建一个“文本生成机”。例如，分析大量莎士比亚作品后，模型会统计出“to be”后面最常接“or not to be”，于是当输入“to be”时，它就有较高概率生成“or not”。这听起来很初级，但它已经具备了“生成”的雏形——不是复制，而是根据学到的概率分布，采样出新的序列。然而，马尔可夫链的“记忆”非常短，且难以捕捉数据中深层的、非局部的复杂结构。它生成的文本往往逻辑跳跃，缺乏长程一致性，更像是一个鹦鹉学舌的“概率复读机”，而非有意识的“创作者”。
这个时期的生成系统，更像是一个遵循统计规律的“自动补全”工具，距离真正的“创造”和“理解”还非常遥远。机器的“素描本”上，只有一些零散、呆板的笔触，缺乏整体的构图与灵魂。转折点，来自另一个领域的革命——深度学习。
---
二、深度学习革命：当神经网络学会“思考”
深度学习的火种，其实在几十年前就已埋下。其核心——人工神经网络（Artificial Neural Networks, ANN），灵感源自生物神经元的结构。一个简单的神经网络，由层层相连的“神经元”（节点）组成，每一层都会对输入数据进行变换，提取不同抽象程度的特征。然而，受限于算力、数据量和理论，多层网络（即“深度”网络）的训练长期是一个难题。
真正的爆发发生在2006年前后，Geoffrey Hinton等人提出了深度信念网络的有效训练方法，揭示了深度网络在特征学习上的巨大潜力。随后，2012年，Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton设计的AlexNet，在ImageNet大规模图像识别竞赛中以压倒性优势夺冠，错误率比传统方法骤降超过10%。这一事件被广泛视为深度学习的“iPhone时刻”。它向世界证明：当海量数据（Big Data）、强大算力（尤其是GPU） 和精巧的模型架构（Deep Architectures） 这三股浪潮交汇时，机器可以自动从原始像素中，逐层抽象出边缘、纹理、部件，直至物体类别（如“猫”、“狗”、“汽车”）的概念。机器开始“看见”世界。
深度学习的革命性在于，它把“特征工程”的重担，从人类工程师的肩膀上，转移给了机器本身。过去，我们需要手动设计“SIFT特征”、“HOG特征”来告诉计算机如何识别边缘和形状；现在，一个深度卷积神经网络（CNN）可以从数百万张图片中，自己学会什么才是一张“猫脸”的最佳表征。这种表示学习（Representation Learning），是通往生成式AI的钥匙。
既然网络能学习数据的判别特征（用于分类、识别），那么，它能否学习数据的生成本质？换言之，我们能否训练一个网络，让它不仅能识别“这是一只猫”，还能“画出”一只猫？
一个自然的想法是：压缩与重建。如果我们能学会将一张图片压缩到一个极小的“潜在空间（Latent Space）”中，再从这个压缩表示里完美地重建出原图，那么这个压缩表示里，必然蕴含着生成这张图片所需的所有核心信息。这便是自编码器（Autoencoder, AE） 的基本思想。
一个标准的自编码器包含两部分：
- **编码器（Encoder）**：将高维输入（如一张28x28的MNIST手写数字图片，784维）压缩到一个低维的“潜在向量（Latent Vector）”或“代码（Code）”中（例如32维）。这个过程是**信息的有损压缩**。
- **解码器（Decoder）**：接收这个低维潜在向量，尝试将其**重建**回原始的高维图片。
训练目标很简单：最小化重建损失（Reconstruction Loss），比如输入图片和重建图片之间的像素均方误差（MSE）。训练完成后，编码器学会了如何将图片“摘要”成一个紧凑的代码，解码器则学会了如何根据这个代码“画”出图片。
自编码器是生成式AI的重要先驱。它证明了神经网络可以学习数据的有意义表示。然而，它的生成能力有限。潜在空间往往不连续、不平滑。如果你在潜在空间里随机选取一个点，解码器可能生成一个模糊的、不像任何数字的鬼影。因为潜在空间没有被明确地约束为遵循某种已知的、易采样的概率分布（如标准正态分布）。你无法像在调色板上轻松混合颜色那样，在潜在空间里平滑地从一个数字的表示“走”到另一个数字的表示。它更像是一个个孤立的“数据存档点”，而非一个可以自由探索的“创作宇宙”。
为了改善潜在空间的性质，变分自编码器（Variational Autoencoder, VAE） 应运而生。VAE不再为每个输入图片学习一个确定的潜在向量，而是学习一个概率分布——具体来说，是学习一个以输入图片为条件的高斯分布（由均值和方差参数化）。编码器输出的是这个分布的参数，而不是一个固定点。在训练时，我们从这个分布中采样一个点，然后送到解码器进行重建。同时，VAE引入了一个关键的约束：要求这个学到的潜在分布，要尽可能接近一个先验分布（通常是标准正态分布 $\mathcal{N}(0, I)$）。
这个设计的精妙之处在于： 1. 强制平滑与连续：由于潜在空间被强制拟合为一个连续的标准正态分布，整个空间变得稠密且可导。任意两点之间的插值，都对应着一个有意义的、渐变的图像。你可以在潜在空间里，从“1”的表示，平滑地 morph 到“7”的表示，中间经过的所有点，都会生成合理且过渡自然的手写数字。 2. 提供采样接口：因为先验是简单的标准正态分布，我们可以直接从 $\mathcal{N}(0, I)$ 中随机采样一个点，输入解码器，就能生成一个全新的、合理的图像。VAE第一次实现了端到端的、可微的、能生成新样本的模型。
```mermaid graph LR A[输入图片 x] --> B[编码器 q(z|x)] B --> C[潜在变量 z ~ q(z|x)] C --> D[解码器 p(x|z)] D --> E[重建图片 x̂]
F[先验分布 p(z) = N(0,I)] -.-> C G[KL散度损失] -.-> B H[重建损失] -.-> E
style C fill:#e1f5fe style F fill:#f3e5f5 ```
*(图示：变分自编码器（VAE）的架构与训练目标。编码器将输入x映射到潜在分布q(z|x)，从中采样z，解码器据此重建x。训练同时最小化重建损失和潜在分布与先验p(z)之间的KL散度。)*
VAE是生成式AI发展史上的一座关键桥梁。它首次将深度学习与概率图模型的思想优雅结合，用可微的、端到端的方式，实现了对数据生成过程的显式建模。它告诉我们：生成，本质上是学习一个数据的概率分布 $p(x)$，并从中采样。VAE通过变分推断，巧妙地解决了这个高维、复杂分布难以直接学习的问题。
然而，VAE生成的样本，往往存在一个致命弱点：模糊。无论是人脸还是手写数字，VAE生成的结果常常像蒙了一层薄雾，细节锐度远不如真实图片。这是因为它的重建损失（通常是L2损失）倾向于取所有可能性的“平均”，而平均的猫，自然是一团模糊的毛茸茸。为了追求概率建模的严谨性与潜在空间的平滑性，VAE在生成高保真度、高细节样本方面，显得力不从心。
就在VAE探索潜在空间之美的同时，另一股截然不同的力量，正在另一个方向积蓄，它不追求严谨的概率模型，而是诉诸于一种原始的、对抗性的“艺术争霸”。这股力量，即将以一场风暴的姿态，彻底改变生成式AI的格局。它，就是生成对抗网络（GAN）。
---
三、生成模型的核心：机器如何“想象”
在深入GAN之前，我们必须先锚定一个最根本的概念：生成式模型（Generative Model）究竟在学什么？
想象一下，你有一个巨大的、装满各种水果的篮子，但你无法直接看到里面。你的任务是，在不看的情况下，能准确地“想象”并“拿出”一个苹果。你怎么做？最直接的方法是，先偷偷观察篮子很久，统计里面每种水果的比例（比如苹果占40%，香蕉占30%，橙子占30%），记住苹果大概的形状、颜色、手感。然后，当你需要“生成”一个苹果时，你就根据这个学到的“水果分布”，随机地组合出符合苹果特征的物体。
机器学习中的生成模型，干的正是这件事。它的终极目标，是学习到训练数据的联合概率分布 $p(x)$（对于图像，x就是所有像素的集合）。一旦学得了这个分布，生成新样本就变成了一个简单的采样问题：从 $p(x)$ 中随机抽取一个样本x，它理论上就应具有与训练数据相同的统计特性。
这听起来抽象，但核心思想朴素而深刻：世界是概率性的，生成即采样。无论是写文章、画图画，还是合成语音，都是在学习一个复杂的高维分布，然后从中“抽取”一个合理的实例。
那么，如何学习这个未知的、可能极其复杂的 $p(x)$ 呢？不同模型给出了不同答案。
- **显式模型（Explicit Model）**：直接尝试定义并计算出 $p(x)$ 的数学表达式。比如，假设数据服从某个已知分布（如高斯混合模型），然后通过最大似然估计拟合参数。VAE属于这一类，它通过变分下界（ELBO）间接优化 $p(x)$ 的近似。
- **隐式模型（Implicit Model）**：不直接给出 $p(x)$ 的公式，而是提供一个**生成过程**。你给它一个简单的、易采样的噪声源z（比如标准正态分布），它通过一个函数 $G(z)$（生成器），将z映射成数据x。只要这个映射足够好，从z采样再经G变换得到的x，其分布就逼近了真实数据分布。**GAN是隐式模型的巅峰代表**。
理解了这个核心，我们就能看懂生成式AI发展的两条主线： 1. 追求概率解释性与可控性：以VAE为代表，希望模型“懂”数据是如何生成的，潜在空间结构清晰，便于 interpolation（插值）、arithmetic（算术运算）等可控操作。代价是生成样本有时模糊、不够锐利。 2. 追求生成样本的极致保真度：以GAN为代表，像一个技艺高超的伪造者，目标只有一个——骗过最严格的鉴定师（判别器）， producing samples that are indistinguishable from real data。它不显式建模 $p(x)$，但生成的图像往往锐利、清晰、细节丰富。代价是训练不稳定，理论分析困难，潜在空间可能不连续、不可控。
这两种思路的拉锯与融合，贯穿了生成式AI从GAN时代到扩散模型时代的整个演进史。而这一切的戏剧性高潮，始于2014年，那篇标题简洁、思想炸裂的论文：《生成对抗网络》。
---
四、GAN：生成对抗网络的“艺术争霸赛”
2014年，Ian Goodfellow等人在多伦多大学提出了一个宛如古希腊戏剧般构思的框架：让两个神经网络，一个扮演“艺术家”（生成器），一个扮演“评论家”（判别器），在对抗中共同进化。
- **生成器（Generator, G）**：它的任务是从一个简单的随机噪声z（如100维的标准正态分布向量）中，生成一张假图片 $G(z)$。它的目标是：让生成的图片越来越像真图，以骗过判别器。
- **判别器（Discriminator, D）**：它的任务是一个二分类器，输入一张图片（可能是真实的训练图片，也可能是生成器造的假图片），输出它判断为“真”的概率 $D(x)$。它的目标是：准确区分真图和假图。
训练过程，是一场零和博弈的极小极大博弈（Minimax Game）： 1. 固定生成器G，训练判别器D：给它看一批真图（标签为1）和一批G生成的假图（标签为0），让D学会尽可能准确地区分。 2. 固定判别器D，训练生成器G：它试图生成新的假图去“忽悠”D。这次，D的参数固定，G的参数更新，目标是让D对G(z)的输出尽可能接近1（即判为真）。
用数学表达这个目标函数（价值函数V）： $$ \min_G \max_D V(D, G) = \mathbb{E}_{x \sim p_{data}(x)}[\log D(x)] + \mathbb{E}_{z \sim p_z(z)}[\log(1 - D(G(z)))] $$
- 前半部分：鼓励D对真图x给出高概率（$\log D(x)$大）。
- 后半部分：鼓励D对假图 $G(z)$ 给出低概率（$\log(1 - D(G(z)))$大，等价于让 $D(G(z))$ 小）。而G的目标是最大化后半部分，即让 $D(G(z))$ 尽可能大。
理想纳什均衡：当G完美时，它生成的图片分布 $p_g$ 等于真实数据分布 $p_{data}$，此时D对所有输入都无法判断真假，$D(x) = 0.5$。此时，价值函数达到极小极大值，训练停止。生成器学会了整个数据的分布。
GAN的革命性在于： 1. 无需显式概率建模：G和D都是神经网络，通过反向传播和梯度下降进行优化。生成过程是确定性的函数映射 $G(z)$，但通过对抗训练，隐式地逼近了 $p_{data}$。 2. 生成质量飞跃：训练好的GAN生成的图像，锐利、清晰、细节丰富，远超同期VAE。第一次，机器生成的“人脸”让普通人难以分辨真假。 3. 思想之美：将生成问题转化为一个博弈问题，灵感来自博弈论中的“二人零和博弈”。这种将两个网络置于对抗环境的设定，极具哲学意味和工程魅力。
然而，GAN的“魔法”伴随着 notorious 的“魔法副作用”：
- **训练不稳定**：博弈的平衡点难以找到。D和G必须同步进步，若一方过强，另一方会迅速崩溃，导致梯度消失（比如D太强，G的梯度几乎为0，无法更新）。需要精细的超参数调优和网络架构设计。
- **模式崩溃（Mode Collapse）**：这是GAN最著名的顽疾。生成器发现，只需生成某几种特别能骗过当前判别器的样本（比如只生成特定角度、特定发型的人脸），就能获得不错的损失值。于是它“偷懒”，放弃了探索数据分布的其余部分，导致生成样本多样性急剧下降。整个潜在空间z，可能只对应几种固定的输出。
- **难以评估**：没有像VAE那样的明确对数似然下界。如何判断GAN训练得好不好？主要靠人工观察（FID、Inception Score等指标是事后提出的近似度量）。
尽管挑战重重，GAN的爆发点燃了整个领域。基于GAN的衍生架构如雨后春笋：条件GAN（cGAN）实现按类别生成；CycleGAN实现无配对图像风格迁移（马变斑马）；StyleGAN通过引入风格向量和自适应归一化，实现了对生成图像属性的精细控制（如发型、年龄、表情的独立操控），将人脸生成推向了前所未有的逼真高度。GAN的几年统治期，是生成式AI从“能生成”到“生成得惊艳”的黄金时代。
但 adversarial training 内在的不稳定性，以及扩散模型在生成质量、多样性、训练稳定性上展现出的全面优势，预示着另一场范式转移正在酝酿。这场转移的种子，其实早在GAN风生水起的2015年，就已被另一群研究者，在另一个看似不相关的领域——非平衡热力学——悄然播下。
---
五、扩散模型：从噪声中“雕刻”现实
想象一下，你有一张清晰的照片，然后反复、细微地往上面撒胡椒粉、涂鸦、添加高斯噪声。经过几百次这样的操作，照片最终会变成一片完全随机的、毫无信息的静态噪声。现在，假设你拥有一个“魔法”，能精确地逆转这个过程：从纯噪声开始，一步步、有策略地去除噪声，最终恢复出那张清晰的原始照片。这个“魔法”，就是扩散模型（Diffusion Models） 的核心思想。
扩散模型的前身，是2015年提出的深度去噪自编码器（Denoising Autoencoder） 和后来的噪声条件评分网络（Noise Conditional Score Network）。其核心数学框架，源于非平衡统计热力学中的扩散过程（Diffusion Process）。
它包