为什么我们要学会「造」数据？
为什么我们要学会「造」数据？
训练一个 GPT-4 级别的模型需要多少数据？OpenAI 没有公开过具体数字，但行业普遍估计是数十万亿 token。这些 token 来自互联网——网页、书籍、论文、代码、对话记录。换句话说，人类几十年在网上留下的全部"语言化石"，几乎被一次性榨干了。
这才是真正的故事：当 AI 变得越来越聪明，它用来变聪明的燃料正在告急。
2024 年，一项由多家研究机构联合发布的分析指出，全球高质量文本数据的存量预计在 2026 年至 2030 年之间被耗尽。图像、视频、3D 点云等模态的情况更糟——这些数据的生产本身就比文字昂贵几十倍。
于是出现了一个看似天真的问题：没有数据了，我们能不能"造"数据？
这个问题不是技术人员坐在实验室里的灵光一现。它是被现实逼出来的。本章就用三个真实故事，带你看看真实世界的数据到底难在了哪里。然后我们会回答那个天真的问题——答案是肯定的，但"造"的方式，比你想象的要复杂得多。
---
真实数据正在卡住 AI 的脖子
在解释合成数据之前，我们必须先承认一件事：真实数据从未像今天这样昂贵、稀缺、高风险。
我把当前数据获取的困难归结为"三座大山"——采集成本、隐私合规、长尾覆盖。每一座都真实存在，每一座都在以不同的方式阻挡 AI 模型的下一轮升级。
第一座山：长尾场景的采集成本
先讲一个我亲身参与过的项目。2022 年，一家国内自动驾驶公司想要训练一个能识别"儿童突然从停放的车辆之间跑出来"这种场景的模型。从工程师的角度看，这是个简单的目标检测问题，给算法喂几千张图片，模型就能学会。但难点在于——去哪里找这几千张图？
这不是一个常见的交通场景。儿童的体型小、速度变化大、被遮挡的比例高，真实道路数据中出现的频率可能只有百万分之一。如果靠真实的路测车队去采集这些场景，可能需要上千万公里的行驶里程，每公里成本大约在 5 到 10 元人民币，光是数据采集费用就要 5 亿到 10 亿元。
这还没算上时间成本。你可能要等一个特定的雨夜、在某个特定的路口、等一辆特定颜色的 SUV 旁边刚好停着一辆车，然后一个穿红衣服的小朋友恰好从车尾跑出来——这种概率叠加起来，等于让人类去"制造"自然。
不只是自动驾驶。任何需要处理罕见事件的领域都面临同样的困境：医疗影像里的罕见病、卫星图像里的军事目标、工业质检里的微小缺陷、风电场里的叶片裂纹……这些"长尾"场景的真实数据要么不存在，要么贵到无法承受。
长尾（long tail） 是统计学里的一个老概念：在很多真实分布里，极端事件或罕见类别虽然单个占比小，但加起来往往占据总体的一半以上。自动驾驶数据里，99% 的行驶里程是"晴天、堵车、正常跟车"，剩下 1% 才是那些决定系统生死的小概率事件。
我们用一张表来直观对比一下：
| 场景类别 | 真实采集难度 | 单位成本 | 时间周期 | |---------|------------|---------|---------| | 常见城市道路 | 低 | ~5 元/公里 | 持续 | | 恶劣天气 | 中 | ~15 元/公里 | 季节性 | | 罕见交通事故 | 极高 | 几乎无法估算 | 不可预期 | | 儿童鬼探头 | 极高 | 单场景可达数万元 | 可能永远等不到 |
数据来源：根据多家自动驾驶公司公开资料与行业访谈整理。
第二座山：隐私合规的高墙
第二个故事发生在医院里。
2023 年，我们想做一个胸腔 X 光片的诊断模型，目标是帮助基层医院识别早期肺癌迹象。技术路径非常清晰：收集 10 万张带标注的胸片，训练一个 CNN 模型，听起来跟自动驾驶没什么不同。
但在数据获取阶段，我们撞上了一堵厚墙：医院的数据不能直接拿走。
在中国，患者的影像数据属于个人健康信息，受《个人信息保护法》和《数据安全法》双重监管。在美国，HIPAA（Health Insurance Portability and Accountability Act）规定医疗数据的共享必须经过严格的去标识化处理。欧盟的 GDPR 更严格——它甚至不要求数据泄露造成实质损害，只要存在泄露可能，受影响个人就有权提起诉讼。
医院可以跟我们合作吗？可以。但要经过： 1. 医院伦理委员会审批（3-6 个月） 2. 数据脱敏处理（去除姓名、身份证、设备 ID 等 18 类标识符） 3. 数据使用协议签署（明确数据用途、保留期限、销毁方式） 4. 部分医院还要求联邦学习——数据不出院，模型走进来
最终能拿到的数据，往往只有原始计划的三分之一，而且标注质量参差不齐——因为好的放射科医生都在三甲医院，他们没时间给你的 AI 项目做精细标注。
这不只是中国的问题。MIT 科技评论在 2023 年的一项调查中发现，全球 78% 的医疗 AI 项目在数据获取阶段就夭折或严重延期。不是技术不行，是数据拿不到。
医疗数据的困境具有代表性：任何涉及"人"的数据，都正在被法律和伦理共同收紧。金融、教育、社交、办公……你能想到的所有领域，都在经历类似的过程。这是文明社会的进步，但也是 AI 模型的噩梦。
第三座山：小语种与冷门领域的"数据荒漠"
第三个故事，去一个你可能意想不到的地方——非洲。
2021 年，Meta（当时还叫 Facebook）发布了一个叫 No Language Left Behind（不落下任何语言） 的项目，目标是让翻译模型覆盖 200 多种语言。听起来很美好，对吧？但项目负责人公开承认，超过 70 种语言找不到足够的训练语料。
什么是"足够"？对于一个英语到法语的翻译模型，你可能需要 5000 万对平行句子。但对于英语到尼日尔的 Kanuri 语，整个互联网能找到的双语对照语料可能只有 几百句。
这不是个别现象。低资源语言（low-resource language）的数据匮乏是 AI 公平性的核心障碍。今天的大模型英语最好、中文次好、斯瓦希里语几乎不行——不是因为算法歧视，而是因为数据本身就不存在。
小语种问题的本质，是互联网内容生产的高度不均衡。全球前 10 种语言占据了互联网上约 85% 的内容。剩下几千种语言加起来，只占 15%。其中很多语言甚至没有标准的文字编码、没有公开的词典、没有维基百科。
冷门领域的数据荒漠比小语种更隐蔽。法律 AI 需要的判例数据、化工领域需要的反应数据、农业领域需要的病虫害图像数据——这些领域的数据大多锁在专业机构内部，既没有公开渠道，也没有商业激励去整理。
当 AI 模型只会说"大语种"、只懂"大领域"的时候，它不是 AI，它只是为少数人服务的智能。
三座大山总结成一句话：真实数据的稀缺不是单一原因，而是成本、隐私、覆盖三个维度同时收紧的结果。 任何一个维度单独看都有解决方案，但三个叠加起来，传统数据获取模式彻底失效。
---
假数据真的能训练 AI 吗？可口可乐配方做比喻
现在让我们正面回答那个"天真的问题"。
答案是：能。而且已经在做了。
但理解这件事，需要先破除一个直觉上的偏见。我们的大脑天然倾向于把"真"和"好"画等号，把"假"和"差"画等号。在餐饮行业，真材实料是好餐厅的标配；在奢侈品行业，真皮真钻是溢价的核心；在新闻行业，事实是底线。
但 AI 训练是一种统计学习。它不是在背题，而是在寻找数据中的分布规律。只要合成数据的分布与真实数据的分布足够接近，模型就学得到真东西。
这里有一个我特别喜欢的类比——可口可乐的配方。
1886 年，可口可乐诞生时，它的配方是真实存在的：古柯叶、可乐果、糖、咖啡因、磷酸、水。这些都是"真实原料"。但到了 2024 年，你喝到的可口可乐里几乎没有真实的古柯叶了——古柯叶里的可卡因早就被去除，剩下的风味是用人工合成的香精模拟的。
关键问题来了：你喝到的可口可乐，是"假"的吗？
从化学成分看，它不含原始植物原料。从感官体验看，它的味道和历史上的可口可乐几乎一致。从消费者的反应看，没有人觉得它是"假货"。
可口可乐的工程师做了一件了不起的事：他们不再依赖原始植物，而是用人工合成的成分去逼近那个"味道的分布"。这就是合成数据的本质。
我们不直接复制原始 X 光片（因为涉及隐私），而是训练一个生成模型，让它学习 X 光片的分布规律（什么位置可能有肋骨、什么形状可能是结节、什么灰度符合医学影像特征），然后用这个模型"凭空"生成新的、但完全符合医学规律的图像。
这些图像是"假的"吗？它们的像素是新的，病例是虚构的，患者是不存在的。但它们的统计特征和真实 X 光片高度一致。用它们训练出来的诊断模型，在真实患者身上的准确率可以和用真实数据训练出来的模型相当甚至更好——这一点已经被多项独立研究证实。
这就是合成的哲学：重要的不是数据的"出身"，而是数据的"分布"。
---
从统计合成到深度合成：一段被忽视的历史
很多人以为合成数据是 2022 年 ChatGPT 之后才火起来的新概念。事实上，这个领域有 30 多年的历史。
1990 年代：统计合成的萌芽
最早期的合成数据技术服务于一个朴素的目的：填补缺失值。如果你的调查问卷里有 10% 的受访者漏答了某道题，统计学家会用一些简单的方法——均值填充、回归预测、多重插补（multiple imputation）——来"补全"这些缺失值。
这些补全出来的数据，本质上就是一种合成数据。它们的"假"是温和的、可解释的、被严格限制在缺失的位置上。
这个时期还出现了一个里程碑式的方法：SMOTE（Synthetic Minority Over-sampling Technique，合成少数类过采样技术）。2002 年发表的这篇论文，针对的是分类任务中类别不平衡的问题——比如欺诈检测里，欺诈交易可能只占 0.1%。SMOTE 不是简单复制少数类样本，而是在少数类样本之间做线性插值，生成"介于两者之间"的新样本。
SMOTE 在今天依然被广泛使用。它证明了合成数据即使在最粗糙的实现下，也能带来显著的价值。
2010 年代：深度合成的崛起
真正的转折发生在 2014 年。那一年，Ian Goodfellow 提出了 GAN（Generative Adversarial Network，生成对抗网络）。
GAN 的核心思想极其优雅：一个"造假者"网络（Generator）负责生成假数据，一个"鉴别者"网络（Discriminator）负责区分真假。两个网络相互博弈，最终造假者的水平高到鉴别者也无法分辨。
GAN 第一次让机器具备了生成"以假乱真"图像的能力。2017 年，NVIDIA 的研究团队用 GAN 生成的人脸照片，已经能让普通人肉眼分辨不出真假。
同期，VAE（Variational Autoencoder，变分自编码器） 也开始流行。它的思路略有不同：先用一个编码器把数据压缩成低维的"分布"，再用一个解码器从这个分布里采样、生成新数据。VAE 的图像质量不如 GAN，但分布更可控，适合做数据增强。
2020 年代：扩散模型与合成数据的工业化
2020 年，DDPM（Denoising Diffusion Probabilistic Models，去噪扩散概率模型）横空出世。它通过反复"加噪"和"去噪"的过程生成数据，虽然速度慢，但质量远超 GAN。
2022 年发布的 Stable Diffusion 把扩散模型推向了大众。基于扩散模型的合成图像在分辨率、多样性、可控性上都达到了工业级水平。
也是从这一时期开始，"合成数据"从一个学术名词变成了商业战略。英伟达（NVIDIA）在 2023 年发布了 Omniverse Replicator，专门用于自动驾驶场景的合成数据生成；微软研究院提出了 Synthetic Data Showcase，把合成数据列为"AI 发展的第四要素"（前三个是算法、算力、真实数据）。
关键技术转折点可以归纳为三个：
1. 1990s 统计方法：解决"数据缺失"问题，粗糙但有效； 2. 2014 GAN：让生成质量发生质变，从"能看"到"以假乱真"； 3. 2020 扩散模型：让生成过程可控、可解释、可工业化。
每一次转折，都让合成数据的应用边界往前推了一大步。
---
合成数据到底是个什么东西？一份通俗定义
讲完故事和历史，我们给合成数据下一个明确、可操作的定义。
合成数据（synthetic data） 是指：通过算法生成的、人工标注或模拟真实世界分布的数据，其本身并不对应任何真实个体、真实事件或真实记录。
这个定义里有几个关键词需要拆解：
第一，"通过算法生成"。 它不是人坐在电脑前敲出来的，也不是从某个数据库复制粘贴的。它是机器学习模型的产物。最常见的生成模型包括 GAN、VAE、扩散模型，以及后来流行的大语言模型本身。
第二，"人工标注或模拟真实世界分布"。 合成数据可以是完全无标注的（比如生成 100 万张人脸图像但不告诉机器谁是谁），也可以是带标注的（比如生成 X 光片的同时附带"结节位置在右上肺野"的标注）。后者更接近"合成数据 + 合成标注"的全栈方案。
第三，"不对应任何真实个体、事件或记录"。 这是合规上的关键。一张合成的胸片无论多逼真，它都不属于任何真实患者，因此不触发《个人信息保护法》和 HIPAA 的限制。这正是合成数据能在医疗、金融等敏感领域大显身手的原因。
合成数据有几种主要形态，可以从不同维度分类：
按生成方式分：
- **基于分布的合成（distribution-based）**：用统计模型或深度学习模型学习真实数据的分布，再从这个分布中采样生成新数据。
- **基于模拟的合成（simulation-based）**：用物理引擎、游戏引擎或专业仿真软件模拟真实世界，生成符合物理规律的数据。这是自动驾驶和机器人领域最常用的方式。
- **基于模型的合成（model-based）**：直接用大模型（比如 GPT 系列）生成文本、对话、代码等数据。
- **混合合成（hybrid）**：把上述几种方式组合使用，兼顾质量和多样性。
按数据模态分：
- **结构化数据**：表格、时序、数据库记录。常见于金融反欺诈、用户行为模拟。
- **图像数据**：2D 图像、3D 点云、医学影像。常见于计算机视觉。
- **文本数据**：对话、新闻、代码、对话树。常见于大语言模型训练。
- **多模态数据**：图文配对、视频、3D 场景。下一代 AI 的核心需求。
按用途分：
- **训练数据**：直接喂给模型做训练，弥补真实数据不足。
- **测试数据**：用于评估模型在边界情况下的表现，特别是隐私敏感场景。
- **增强数据**：在真实数据基础上做扩展，提升模型鲁棒性。
- **冷启动数据**：在产品还没上线、还没有真实用户时，用于构建初始模型。
一个常见误区需要纠正：合成数据不是要"替代"真实数据，而是与之"共生"。
把它想成数据的"增强层（augmentation layer）"会更准确：
- **底层** 仍然是真实数据，构成模型的"地基"；
- **中层** 是合成数据，填补真实数据的漏洞和缺口；
- **上层** 是合成数据 + 真实数据的混合训练，让模型学到更多样的模式。
完全用合成数据训练一个模型，在大多数任务上还是不可行的——这叫 "model collapse"（模型坍缩），是 2023 年 Nature 上一篇论文提出的警告。但把合成数据作为真实数据的补充，已经是工业界和学术界的共识。
---
从"备胎"到"主燃料"：为什么这是 AI 的战略问题
理解了什么是合成数据之后，我们还要回答一个更深层的问题：为什么这件事重要到值得写一整本书？
答案藏在三个趋势里。
趋势一：AI 模型的"胃口"增长速度超过真实数据的生产速度。
GPT-3 用了 3000 亿 token 训练，GPT-4 据估计用了 13 万亿 token。每一代模型的训练数据量都在指数级增长。但人类每年能生产的优质文本、图片、视频，增长速度远远跟不上。
打个比方：AI 是一辆越来越大的卡车，真实数据是加油站。当卡车从 10 吨变成 100 吨时，加油站还是那个加油站——这就是供给侧危机。
趋势二：数据的"合规成本"正在飞速上升。
过去十年，全球数据保护法规的数量增长了近 10 倍。欧盟 GDPR、加州 CCPA、中国《个人信息保护法》、巴西 LGPD、印度 DPDP Act……每一项法规都在让真实数据的获取成本上升。
这不是周期性的波动，而是结构性的趋势。数据隐私正在从"加分项"变成"生死线"。 任何无法适应这个趋势的 AI 公司，都会在未来 5-10 年内被淘汰。
趋势三：长尾场景的需求正在爆炸。
AI 应用从"通用"走向"垂直"是必然趋势。从通用聊天机器人到医疗诊断、法律咨询、自动驾驶，每一个垂直领域都有自己的长尾需求。而这些长尾，恰恰是真实数据最难触达的地方。
合成数据是唯一能系统性、经济性、可重复性地覆盖这些长尾的方法。
三个趋势叠加起来，结论很清楚：AI 行业从"用数据"走向"造数据"，不是技术演进的选择题，而是生存的必答题。
这也是为什么英伟达 CEO 黄仁勋在 2024 年的多个场合反复强调："合成数据是 AI 发展的下一波浪潮。" 不是因为合成数据完美，而是因为真实数据已经不够用了。
类比一下就清楚了：数据引擎之于 AI，就像石油炼化之于汽车。
1900 年代早期，汽车刚被发明的时候，"燃料"是真实汽油——从地下开采出来、简单蒸馏、直接用。但随着汽车数量爆炸，原始汽油很快不够用了。解决方案不是停止开车，而是发明了石油炼化技术——把原油裂解、重整、催化，变成不同标号、不同用途的燃料。没有炼化技术，就没有现代汽车工业。
合成数据之于 AI，就是数据领域的"炼化技术"。它不创造原始数据（那是真实数据的角色），但它把原始数据"加工"成 AI 模型真正需要的形态：覆盖广、隐私安全、成本可控、可重复生产。
到这里，你应该已经理解了为什么我们要"造"数据。但理解"为什么"只是开始，真正落地需要回答的是"怎么做"。
---
全书路线图：从造数到飞轮
本书的设计是按照工程师的真实工作流组织的，从数据的最上游走到最下游。
下面是全书的章节结构，以及每一章的核心议题：
| 章节 | 标题 | 核心议题 | |------|------|---------| | 第 1 章 | 为什么我们要学会"造"数据？ | 真实数据危机与合成数据的战略意义（本章） | | 第 2 章