Name: 数据引擎：合成样本与飞轮构建
Author: MiniMax-M3

数据引擎范式：从人工标注到合成驱动的代际跃迁

当 GPT-4V、Gemini 1.5、Claude 3.5 Sonnet 这类多模态模型在 2023—2024 年相继突破传统基准的上限时，业界最常被引用的解释是参数规模与训练算力的同步扩张。但只要翻阅这些团队的公开训练报告，就会发现另一条主线：单条训练样本的有效信息密度（即每 token 带来的梯度信号强度）正在以超过 $3\times$/年的速度提升，而人工标注的边际成本却在 $0.08$—$2.40$ 美元/条区间停滞不前。两条曲线在 2022 年附近发生交叉，标志着 AI 工业化的瓶颈从算力迁移到了数据。这并非「数据不够多」这样简单的判断，而是数据供给体系的代际差异：人工标注、半自动标注、合成驱动三种范式所对应的成本结构、可演进性与能力天花板，已经被彻底重构。本章要解决的核心问题是：在算力不再是唯一瓶颈的当下，数据供给体系的代际差异究竟是什么？数据引擎（Data Engine）应当被如何形式化定义，才能既覆盖传统数据流水线的能力，又为合成样本与反馈飞轮留出可计算的空间？

三次范式跃迁及其经济结构

将 2009 年至今的 AI 数据供给史压缩成三条曲线，足以看清代际差异的本质。

第一次跃迁（2009—2017，ImageNet 时代）。ImageNet 的 14M 张图像、22K 类别是深度学习复兴的奠基工程，其成本结构是极端人工化：平均每张图需要 2.3 名 Mechanical Turk 工人参与验证，最终通过约 49K 人的众包完成标注。按当时的市场价粗算，单位标注成本约 $\$2.7$/张（含质检与仲裁），整体投入在 $\$50\text{M}$ 量级。该范式的核心成本模型可写成：

$$C_d^{(1)} = N \cdot (\tau \cdot w + c_q)$$

其中 $N$ 是样本量，$\tau$ 是单条标注工时，$w$ 是时薪，$c_q$ 是质检重标成本。算力 $C_c$ 在同期仅占整体预算的 5%—10%。该范式的天花板由人类标注速度决定，按全球众包平台的峰值吞吐估算，每年极限是 200M—400M 条高质量标注。

第二次跃迁（2017—2021，COCO/LVIS 时代）。COCO（330K 张图像、2.5M 实例分割）、LVIS（164K 图像、1203 长尾类）逐步引入预训练检测器+人工校验的混合管线。流程是：先用 ImageNet 时代训出的模型产生候选框与候选掩码，再由人工做接受/拒绝/修正。经济结构变为：

$$C_d^{(2)} = \alpha \cdot N \cdot \tau \cdot w + (1-\alpha) \cdot N \cdot c_{\text{model}} + N \cdot c_q$$

其中 $\alpha$ 是需要人工干预的比例。LVIS 的公开数据显示，$\alpha$ 在头部类可低至 $0.05$，在尾部类仍高达 $0.7$，使得整体平均成本与全人工差距仅 40%。但该范式解锁了样本量的非线性扩张，把年标注吞吐推到了 1B+ 条。其代价是引入了模型偏置——人工校验的是模型已经会的，模型不会的部分仍然稀缺。ImageNet、COCO 的失败模式分析显示，模型在长尾小类上的错误率与人工干预比例 $\alpha$ 呈反比，这构成了第二次跃迁的能力天花板。

第三次跃迁（2022 至今，合成驱动时代）。GPT-4V 的训练数据估算中，合成样本占比超过 60%（据 EpochAI 2024 报告）。Llama 3 的视觉适配阶段，超过 80% 的指令微调数据由强模型生成。经济结构变为：

$$C_d^{(3)} = C_{\text{gen}} + C_{\text{verify}} + C_{\text{filter}}$$

其中 $C_{\text{gen}}$ 是强模型推理成本（$\sim$0.0001/条），$C_{\text{verify}}$ 是人工或弱模型校验成本，$C_{\text{filter}}$ 是质量过滤成本。该范式的关键不变量是：生成成本随模型规模呈次线性下降（每 10× 算力约 3—4× 单位成本下降），而人工成本几乎不变。这使得在样本量 $N$ 足够大时，$C_d^{(3)} \ll C_d^{(1)}$。

把三条曲线叠在一起，会得到 AI 数据供给史上一条清晰的趋势线：单位样本成本曲线与单位样本有效信息密度曲线在 2022 年交叉。在此之前，「堆标注」是边际收益递增的；在此之后，「堆合成」+「堆反馈」才是。

但仅仅比较成本并不足以解释能力跃迁。引入 Hoffmann 等人在 Chinchilla 论文中给出的损失分解：

$$L(N, D) = E + \frac{A}{N^\alpha} + \frac{B}{D^\beta}$$

其中 $N$ 是参数量、$D$ 是数据量，$E$ 是不可约损失。当固定算力 $C = 6ND$ 时，最优分配是 $N^* \propto D^* \propto \sqrt{C}$。然而此公式假设数据「同质」，实际中数据存在长尾分布与可学习性差异。引入「有效数据」概念 $\tilde{D}$：

$$\tilde{D} = \sum_{i} w_i \cdot d_i, \quad w_i = \mathbb{1}[\text{样本 } i \text{ 处于当前模型欠拟合区}]$$

权重 $w_i$ 不是先验常量，而是模型的函数。这就导致：在 ImageNet 时代，$\tilde{D} \approx 0.3D$；在合成驱动时代，通过反馈飞轮动态调权，$\tilde{D}$ 可逼近 $0.85D$。同样的 1B 训练样本，合成飞轮体系下产生的有效梯度信号是人工标注体系的 2—3 倍，这是第三次跃迁真正的能力来源。

数据引擎的形式化六元组

「数据引擎」一词在 2023 年后被广泛使用，但鲜有可被工程团队直接照搬的形式化定义。本书采用如下六元组定义：

$$\mathcal{E} = \langle S, C, A, \Sigma, V, F \rangle$$

其中：

$S$：**Source**（采集），从物理世界、互联网、用户行为日志中获取原始信号 $X_{\text{raw}}$；
$C$：**Cleansing**（清洗），将 $X_{\text{raw}}$ 变换到去噪样本空间 $X_{\text{clean}}$；
$A$：**Annotation**（标注），为 $X_{\text{clean}}$ 附加监督信号 $Y$，得到 $(x_i, y_i)$；
$\Sigma$：**Synthesis**（合成），基于现有分布 $P(x, y)$ 生成新样本 $(x', y')$ 以扩展 $\tilde{D}$；
$V$：**Evaluation**（评估），在保留集与对抗集上度量模型能力分布 $M(\theta)$；
$F$：**Feedback**（反馈），将 $V$ 的结果转化为对 $S, C, A, \Sigma$ 的策略更新 $\pi$。

子系统之间的数据流与控制流如下：

这张图需要仔细读——它不仅是数据流的单向链，而是一个双层闭环：

1. 数据流（前向）：$S \rightarrow C \rightarrow A \rightarrow \Sigma \rightarrow V$，最终输出模型能力评估； 2. 控制流（反向）：$V \rightarrow F$、$F \rightarrow S$、$F \rightarrow A$，反馈子系统根据评估指标反推采集策略与标注指南； 3. 横向耦合：$V \rightarrow \Sigma$ 把评估中暴露的难例直接送入合成子系统，作为重采样与定向生成的种子。

各子系统的边界需要严格划定，否则工业级数据引擎很容易退化为「带几个脚本的 ETL 工具」。

Source 的边界。采集不仅指下载公开数据集，更包括：(a) 主动学习（Active Learning）触发的定向爬取；(b) 用户反馈日志中的隐式标注（点击、停留、纠错）；(c) 仿真环境（模拟器、NeRF 重建、物理引擎）合成的「天然真值」信号。Source 输出的是原始信号张量/比特流，不包含任何监督标签。

Cleansing 的边界。清洗的责任是去噪与去偏，而非标注。常见操作包括：人脸模糊、版权哈希过滤、敏感词替换、PII 移除、OCR 噪声过滤、格式归一化。清洗必须发生在标注之前，否则标注者会被噪声污染样本引导出错误的判读标准。

Annotation 的边界。标注是 $\mathcal{E}$ 中人工成本最重的环节，必须区分三类标签：(a) 事实标签（factual）：如分类、检测框、转写；(b) 偏好标签（preference）：如 RLHF 中的成对比较；(c) 过程标签（process）：如 CoT 推理链、工具调用轨迹。第三类标签在 GPT-4、Claude 3.5 Sonnet 的训练中已占据主导，其单位成本是事实标签的 5—20 倍。

Synthesis 的边界。合成不是「增强」的同义词。本书将合成严格定义为「从一个显式或隐式的 $P(x, y)$ 中采样新 $(x', y')$，且 $(x', y')$ 不在原始数据集中」。它至少包含四种实现路径：(a) 强模型自回归采样；(b) 扩散模型条件生成；(c) 程序化生成（procedural，典型如游戏场景、合成图表）；(d) 跨模态对齐投影（如视频帧配字幕）。Synthesizer 的关键指标不是 FID，而是与目标分布的 KL 散度 $D_{\text{KL}}(P_{\text{syn}} \| P_{\text{target}})$。

Evaluation 的边界。评估子系统必须同时输出聚合指标（accuracy、F1、pass@k）与分布指标（按子类、按难度、按对抗强度的细分）。仅有聚合指标的数据引擎无法驱动反馈飞轮，因为反馈算法看不到梯度方向。

Feedback 的边界。反馈子系统是 $\mathcal{E}$ 中「智能」含量最高的子系统，它把评估分布翻译成三类策略更新：(a) Source 策略 $\pi_S$：调整采集源权重；(b) Annotation 策略 $\pi_A$：调整标注指南与优先级队列；(c) Synthesis 策略 $\pi_\Sigma$：调整采样温度、难度系数、拒绝比例。反馈可以由规则实现（基于阈值的硬切换），也可以由模型实现（基于元学习的策略网络）。

把 $\mathcal{E}$ 抽象成六元组的工程意义在于：任何一个子系统的替换都不需要触动其他子系统，前提是它们严格遵守上述边界。例如，把 ANN 从人工标注替换成模型自标注，只需保证 ANN 输出格式不变；而把 $\Sigma$ 从扩散模型替换成程序生成，需要重新校准 $V$ 的对抗集分布。这一可替换性是「引擎」区别于「管线」的核心——管线是实例，引擎是可实例化的接口。

传统静态数据流水线的结构性局限

理解了六元组的严格边界后，回看传统数据流水线，其局限就清晰可辨。本节以三种代表性流水线为例剖析。

tf.data / DataLoader 的局限。TensorFlow 的 `tf.data` 与 PyTorch 的 `DataLoader` 是 2016—2021 年深度学习的事实标准。其抽象是：构建一个 `Dataset` 对象，预处理管线 `map → batch → shuffle`，通过迭代器喂入训练循环。该抽象有三个关键假设：(a) 数据集与模型独立——预处理是确定性的、不参与梯度；(b) 训练是离线批处理——每个 epoch 之前数据是「冻结」的；(c) 流水线只关心吞吐——不关心每条样本对模型的价值。这三个假设在合成飞轮时代全部失效。

具体看：

1. 数据增广不可微。`tf.image.random_flip_left_right`、`ColorJitter` 等是随机采样，不是参数化的。AutoAugment 的搜索空间虽然可学，但学的是「增广策略本身」，而非「增广参数」。在合成驱动时代，我们希望增广参数本身可微，从而让 $V$ 的反馈能直接调节增广分布。 2. 没有反馈通道。`DataLoader` 是无状态消费者，`tf.data` 流水线是 DAG，都没有暴露反向接口给训练循环。一个典型症状是：当训练发现某些类别欠拟合时，工程上只能靠手动调采样权重（class-balanced sampler），而不是让流水线自己观察 loss 分布。 3. 不支持在线合成。传统流水线的数据源是文件系统或分布式存储（Ceph、S3），合成样本必须先落盘再被读取，引入了显著的 I/O 与延迟开销。这与「训练循环每一步都能调用 $\Sigma$」的飞轮模式不兼容。

Spark MLlib / Ray Dataset 的局限。Spark MLlib 与 Ray Dataset 是面向工业级 ETL 的数据抽象，强调分布式与容错。它们适合离线特征工程，但在合成飞轮场景下有两个根本问题：(a) 算子粒度过粗——Spark 的 `mapPartition`、Ray 的 `map_batches` 操作的最小单元是分区而非样本，难以实现样本级的反馈调节；(b) 延迟过高——任务调度开销在秒级，与训练循环的毫秒级步进不匹配。

ImageFolder + transforms 的局限。研究界最常见的代码模式 `ImageFolder(root).map(transforms).batch(N)` 是 tf.data 的简化版，除了没有反馈通道外，还有一个深层问题：它把数据当作静态的「已标注集合」，而合成飞轮的核心恰恰是「已标注集合」会随训练而扩展、再收缩、再扩展。一个无法表达「数据规模是时间的函数」的抽象，本质上无法承载 $\mathcal{E}$。

把三类传统抽象的限制提炼成一句话：它们都假设数据是训练循环的「输入」而非「参与者」。在数据瓶颈时代，数据的角色必须从静态输入升级为可优化的中间变量——这正是可微数据管线的动机。

可微数据管线与端到端优化空间

「可微数据管线」（Differentiable Data Pipeline）的核心思想是：将数据变换视为模型前向图的一部分，允许梯度从损失函数回传到数据变换的参数。形式化地，传统范式优化的是：

$$\theta^* = \arg\min_\theta \mathbb{E}_{(x, y) \sim P_D} [L(f_\theta(x), y)]$$

其中 $P_D$ 是固定的。可微数据管线优化的是：

$$\theta^*, \phi^* = \arg\min_{\theta, \phi} \mathbb{E}_{(x, y) \sim P_{D(\phi)}} [L(f_\theta(g_\phi(x)), y)]$$

其中 $g_\phi$ 是参数化的数据变换（增广、合成、采样权重），$\phi$ 与模型参数 $\theta$ 联合优化。梯度通过链式法则回传：

$$\nabla_\phi L = \frac{\partial L}{\partial f} \cdot \frac{\partial f}{\partial g_\phi} \cdot \frac{\partial g_\phi}{\partial \phi}$$

这一看似简单的改动，在工程实现上却带来三类根本性新能力。

能力一：增广策略在线学习。传统 AutoAugment 需要在训练前做离线强化学习搜索，学到一组固定策略。可微版本（Differentiable Augmentation, e.g., AugMax、TrivialAugment-Wide）将增广参数 $\phi$ 直接放进计算图，让 SGD 在训练的同时调节增广分布。实验上，同样的 ImageNet 训练预算下，可微增广比固定 AutoAugment 在 ImageNet-Real 上的 top-1 准确率提升 0.7—1.2 个百分点。值得注意的是，这种提升来自「增广分布自适应」，而非「增广强度更大」——可微管线学到的是「在训练后期降低几何变换强度、提高色彩扰动强度」这种动态调度，是固定策略无法表达的。

能力二：合成样本的反向调节。当 $\Sigma$ 子系统采用扩散模型生成样本时，可微管线允许把「生成条件」$c$ 视为可学参数 $\phi$。定义损失为模型在「真实样本 + 合成样本」混合集上的期望损失，则：

$$\nabla_\phi L = \mathbb{E}_{(x', y') \sim p_\phi} \left[ \nabla_\phi \log p_\phi(x', y') \cdot L(f_\theta(x'), y') \right]$$

这是 REINFORCE 风格的策略梯度，但应用于合成器参数。在医疗影像（下一节详述）等长尾场景下，该机制让合成器自动把「生成预算」集中到模型当前最欠拟合的子类，相当于把 Active Learning 的能力内化进数据管线。值得强调的是，这里的 $L(f_\theta(x'), y')$ 同时承担了「奖励函数」与「分布匹配正则」的双重角色——它既告诉合成器「什么样的样本让模型学得更好」，也间接约束合成器不能偏离真实分布太远。

能力三：采样权重的端到端调节。传统 class-balanced sampler 依赖人工定义的权重公式（如 $\sqrt{n_i}^{-1}$）。可微版本允许采样权重 $w_i$ 本身是参数 $\phi$，并通过「模型 loss 对 $w_i$ 的梯度」

反传直接更新 $w_i$。这等价于把采样策略 $\pi$ 也纳入优化空间：

$$w_i^{(t+1)} = w_i^{(t)} - \eta \cdot \frac{\partial L_{\text{batch}}}{\partial w_i} = w_i^{(t)} + \eta \cdot L(f_\the