绪论:生成式AI的发展脉络与核心范式
...技术范式。这种范式迁移并非偶然,而是由生成式建模的内在需求与技术瓶颈共同驱动的:早期概率图模型受限于建模能力,无法捕捉高维数据的复杂分布;GAN虽然大幅提升了生成质量,却因训练不稳定、可控性差等问题限制了工业落地;扩散模型则以稳定的训练过程、极高的生成质量和灵活的可控性,成为当前生成式AI的主流技术底座,支撑了从文本到图像、视频生成到3D内容生产的一系列突破性应用。
早期生成式AI:概率图模型的探索
生成式AI的研究最早可以追溯到20世纪90年代的统计学习领域,其核心目标是建模数据的概率分布$P(x)$,从而生成与真实数据分布一致的新样本。这一阶段的主流技术是基于概率图模型的生成方法,以隐马尔可夫模型(HMM)、高斯混合模型(GMM)和受限玻尔兹曼机(RBM)为代表,为后续深度学习生成模型奠定了理论基础。
序列生成的开端:隐马尔可夫模型与高斯混合模型
隐马尔可夫模型是第一个被广泛应用的生成式模型,其核心假设是:当前隐藏状态仅依赖于前一个隐藏状态,当前观测值仅依赖于当前隐藏状态。对于长度为$T$的观测序列$O = \{o_1, o_2, ..., o_T