导论：世界模型与具身智能的复兴 (Introduction: The Renaissance of World Models and Embodied AI)

导论：世界模型与具身智能的复兴

> Introduction: The Renaissance of World Models and Embodied AI > > *为何在 2020 年代，"让机器在内心构建一个可微分、可查询、可想象的虚拟环境"突然从边缘议题变成了 AI 主线？本章将回答这个根本问题，并给出本书 15 章的技术地图。*

1.1 一个被反复提出的问题

如果让一个智能体在厨房里完成"把鸡蛋从冰箱里拿出来、放在台面上、打碎到碗里"这一长串任务，它需要具备什么？表面上，这是一个具身操作 (embodied manipulation) 问题。但只要把它拆开就会发现：智能体必须在看不到冰箱内部的情况下预测打开冰箱门后的画面，必须预判鸡蛋在抓取力不足时滑落的轨迹，必须在脑子里演练"如果我这一步错了，下一步该怎么补救"——它必须在内心模拟一个世界。

这不是新观点。1948 年 Norbert Wiener 在《控制论》(Cybernetics) 中就已经指出，反馈控制系统必须依赖对环境的内部模型；1986 年 Rodney Brooks 用"无表征智能" (intelligence without representation) 反驳这一观点，主张行为本身就是智能；1990 年代到 2010 年代，模型预测控制 (Model Predictive Control, MPC) 在工业过程控制、自动驾驶和航天器中持续证明"内部模型"的价值；2015 年 DeepMind 在 Atari 上证明 DQN 可以从像素端到端学会玩游戏，但同年 Jürgen Schmidhuber 在 2015 年的一篇回顾里系统重申了"世界模型" (World Models) 的概念。

那么问题来了：为什么在 2019 年之后，世界模型突然从"少数研究者的执念"变成了"几乎所有顶级实验室的共识"？答案不在某个单一突破，而在三条独立技术线在 2020 年前后罕见地交汇了。

1.2 具身智能的历史脉络：从 Brooks 到现代大模型驱动机器人

要理解当下的复兴，必须先理解"具身智能"这个概念被反复重塑的过程。本书把这段历史划分为五个阶段，每一阶段的失败或成功都为下一阶段留下了关键遗产。

1.2.1 早期控制论 (1948–1970)

Wiener、Ashby、McCulloch 等人建立了反馈与控制的形式化框架。W. Grey Walter 的"Elmer"和"ELSIE"机器人 (1948–1951) 已经表现出趋光、避障等基础行为，并依赖简单的内部模拟电路模拟环境状态。这一时期的遗产是形式化：状态空间、传递函数、稳定性判据，至今仍是世界模型的数学底色。

1.2.2 行为机器人学 (1985–2000)

Rodney Brooks 在 MIT 人工智能实验室提出包容架构 (Subsumption Architecture)，用一组并行行为层 (avoid, wander, explore, map...) 取代了传统"感知 → 建模 → 规划 → 行动"的分层范式。Brooks 的核心论断是：世界本身就是最好的模型，机器人不需要内部表征，只需与现实环境保持紧密耦合。

这一时期的另一个传统来自 Rodney Anderson 的"动作模式" (Motor Schema) 和 Arkin 的反应式控制 (Reactive Control)。它们的共同遗产是强调实时性、鲁棒性和与环境的紧密耦合——这一点在今天的 sim-to-real 工作中依然成立。但它们的代价是：几乎无法处理需要长时序推理的任务。

1.2.3 经典规划与 SLAM (1990–2010)

与行为主义并行的另一条主线是经典 AI 规划：STRIPS、PDDL 把机器人任务抽象为状态—动作—目标的符号操作；与此同时，Probabilistic Robotics (Thrun, Burgard, Fox, 2005) 把 SLAM 推向成熟，让机器人能够构建环境的几何地图。这两条线留下的遗产是结构化的环境表征——地图、占据栅格、拓扑图——这些可以被视为世界模型的"原始形态"。

1.2.4 深度强化学习 (2013–2019)

2013 年 DQN 在 Atari 上的成功把"端到端"重新带回舞台中央。2016 年 AlphaGo 击败李世石，2018 年 OpenAI Five 在 Dota 2 上击败人类世界冠军 (随后 2019 年击败 OG 战队)。这一时期的信念是：只要有足够算力、足够数据、足够巧妙的奖励信号，智能体可以从零学出一切。

但 OpenAI Five 实际上是一个反例：它依赖约 10 万 CPU 核和 256 块 P100 GPU，每天玩相当于人类 180 年的对局量，并使用了手工设计的奖励分解与状态编码。它并不是一个"纯端到端"的胜利，而是工程化系统设计的胜利。这一点在后来被很多人忽视。

1.2.5 大模型驱动的具身智能 (2022–至今)

2022 年底 ChatGPT 引发了大语言模型 (LLM) 的爆发；2023 年 Google DeepMind 发布 RT-2，把视觉—语言—动作 (Vision-Language-Action, VLA) 统一到一个 Transformer 中；2024 年 NVIDIA 发布 GR00T，DeepMind 发布 RT-X 系列，Sora 和 Genie 展示了从文本/动作直接生成可交互视频世界的能力。

这一阶段的根本转变是：世界模型不再是机器人系统的"可选项"，而是把感知、动作、规划、迁移这四件事统一起来的核心抽象。 这一点是本书的核心论断。

1.2.6 历史脉络的关键判断

如果只从 Brooks 与 Wiener 之争的角度看，2020 年代的复兴似乎只是"内部模型"派重新获胜。但事实更微妙：现代世界模型既不是经典 SLAM 的几何地图，也不是 Brooks 拒绝的符号表征，而是一种可微分、可查询、可生成的神经隐空间动力学。它继承了行为机器人学对实时耦合的强调，继承了经典规划对长时序结构的关注，并借力深度生成模型的表征能力，把三者融合到一个端到端可训练的框架中。

1.3 世界模型的定义与核心属性

1.3.1 一个工作定义

本书采用如下工作定义：

> 世界模型 (World Model) 是智能体内部构建的、参数化的、可微分的、能够从当前状态和动作出发预测未来状态分布的函数。它同时具备可查询 (可以回答"如果……会怎样") 和可想象 (可以在内部 rollout 轨迹) 的能力。

形式化地，世界模型通常被定义为三个组件：

$$W = (E, T, D)$$

其中：

• $E: o_t \mapsto z_t$ 是**编码器 (Encoder)**，把高维观测 $o_t$ (像素、点云、文本、力矩) 压缩到隐空间状态 $z_t$；
• $T: (z_t, a_t) \mapsto z_{t+1}$ 是**转移函数 (Transition)**，在隐空间中预测下一个状态；
• $D: z_t \mapsto \hat{o}_t$ 是**解码器 (Decoder)**，把隐状态重建回可解释的观测。

策略 $\pi(a_t | z_t)$ 通常被建模为在隐状态上的分布，而奖励预测器 $R: z_t \mapsto \hat{r}_t$ 与终止预测器 $C: z_t \mapsto \hat{d}_t$ 在许多变体中会作为辅助模块加入。

1.3.2 三个本质属性

属性一：可微分 (Differentiable)。 与经典 MPC 不同，世界模型的转移函数 $T$ 通常由神经网络实现，梯度可以从未来奖励反向传播回当前动作。这意味着策略学习、规划、模型学习可以在同一个计算图中联合优化，而不需要像传统 MPC 那样把辨识与控制割裂开。

属性二：可查询 (Queryable)。 与纯粹的生成式视频模型 (如 Sora) 不同，世界模型必须能根据任意当前状态—动作对给出下一状态的概率分布。这一点把世界模型与"视频预测器"区分开来：Sora 主要是从噪声 + 文本条件 rollout 一条轨迹，而世界模型必须能在想象中"重置"到任意中间状态并从那里继续推演。

属性三：可想象 (Imaginable)。 智能体可以在世界模型内部 rollout 成千上万条候选轨迹，并据此评估策略或搜索动作序列。这种"在想象中试错"的能力是世界模型相对于无模型方法的核心优势：它把对真实环境的访问需求降到最低。

1.3.3 三个常见误区的澄清

误区一：世界模型 = 模型化 RL。 模型化强化学习 (Model-based RL) 是一个更宽泛的概念，包含了基于表格模型、线性动力学、Gaussian Processes、神经网络模型等所有"在显式模型辅助下做决策"的方法。世界模型是模型化 RL 的一个子集，特指以生成式神经网络为载体、以隐空间动力学为核心的一类方法。

误区二：世界模型 = 仿真器。 仿真器 (simulator) 是外部环境。世界模型是智能体内部的环境；它不一定追求物理保真度，而是追求对智能体决策有用的统计保真度。一个好的世界模型可能在美学细节上是错的，但在"这个动作会不会把杯子碰倒"这件事上是准确的。

误区三：世界模型 = 基础模型。 基础模型 (Foundation Model) 强调"大规模预训练 + 广泛下游适配"。世界模型可以是一个基础模型 (如 GR00T)，但它不必然是——DreamerV3 在单个任务上从零训练一个紧凑的世界模型，效果同样卓越。本书第 11 章会专门讨论"机器人基础模型"与"世界模型"的关系。

1.4 三条历史交汇线

世界模型在 2020 年代复兴的根本原因，是三条独立技术线在同一时间窗口内同时成熟。本节逐一展开。

1.4.1 第一条线：模型预测控制的工程积累

MPC 自 1970 年代后期起源于化工过程控制，在 1980–2000 年代成为航天器姿态控制、车辆稳定性控制的标准方法，2010 年代以后随着计算能力提升扩展到自动驾驶和足式机器人。MPC 留下的核心遗产有三点：

1. 滚动时域优化 (Receding Horizon Optimization) 的思想——在每个时刻只规划未来 $H$ 步，但每步重新规划——直接被 DreamerV2、DreamerV3 等算法的"短时想象 + 实时决策"继承。 2. 终端代价 (Terminal Cost) 与终端约束 (Terminal Constraint) 的概念，对应了世界模型中"想象结束时的价值估计"问题。 3. 辨识与控制的分离 (Separation of Identification and Control) 的局限性——MPC 工程师很早就知道这两者分开优化是次优的，但梯度计算不友好使得联合优化困难。深度学习的出现恰好解决了这一痛点。

1.4.2 第二条线：生成式深度学习的表征突破

2013 年 Kingma & Welling 提出 VAE，2014 年 Goodfellow 提出 GAN，2015 年 Rezende 等人提出 Normalizing Flows，2020 年 Ho 等人提出 DDPM (Denoising Diffusion Probabilistic Models)，2017 年 Vaswani 等人提出 Transformer。这些模型共同把"高维分布的学习"从不可行变为日常。世界模型直接站在这些成果之上：

• **VAE** 提供隐空间动力学的连续表示 ($z_t$)；
• **Transformer** 提供长程依赖建模能力 (处理 $z_1, ..., z_t$ 的历史)；
• **Diffusion 模型** 提供高质量、可控的视频/状态预测；
• **Flow-based 模型** 在 DreamerV2 中被用于离散化隐变量，并显著提升探索效率。

1.4.3 第三条线：大规模预训练带来的语义先验

2020 年 GPT-3 证明了大语言模型在零样本任务上的惊人能力；2021 年 CLIP 把视觉与语言对齐到同一个嵌入空间；2022 年 Flamingo、PaLI 把多模态推进到指令跟随；2023 年起，机器人领域开始把这些预训练模型作为"语义先验"嫁接到控制任务上。RT-2 是这一方向的标志性工作：它直接在一个已训练好的视觉—语言模型 (PaLI-X) 上做联合微调，把机器人动作视为"另一种语言的 token"。

这三条线缺一不可：

• 没有 MPC 的工程积累，我们就没有滚动优化、终端约束这些先验概念；
• 没有生成式深度学习，我们就无法在高维空间学到可用的转移模型；
• 没有大规模预训练，我们就无法获得让机器人"听懂人话、看懂物体"的语义先验。

它们的交汇点，正是本书的论述中心——世界模型作为统一抽象。

```mermaid flowchart LR A[MPC Engineering] --> D[World Model Renaissance] B[Generative Deep Learning] --> D C[Large-scale Pretraining] --> D A -.50 years of control theory.-> A B -.VAE / GAN / Diffusion / Transformer.-> B C -.LLM / VLM / VLA.-> C ```

1.5 具身智能的四个核心属性

要让一个智能体真正"具身"，它必须同时满足以下四个属性。本书把它们作为后续所有章节的检验标准。

1.5.1 感知闭环 (Perception Closed Loop)

智能体必须持续接收来自真实物理世界的多模态信号，并据此更新内部状态。这里的关键词是"闭环"：感知不能是一次性的快照，而必须是连续的反馈流。在工程上，这意味着系统必须处理传感器延迟、噪声、遮挡、漂移，并在毫秒级时间尺度上完成感知—决策回路。

1.5.2 动作可执行性 (Action Executability)

智能体的输出必须是物理上可执行的动作，而不是抽象的"指令"。这意味着输出空间必须考虑执行器的动力学极限 (关节限位、最大力矩、速度上限)、控制频率、安全约束。一个仅产生"打开冰箱门"这一文本输出的系统，在具身智能的意义上是不完整的——它必须同时输出"由哪个关节、以多大速度、施加多少扭矩、在什么时刻开始"。

1.5.3 环境可交互性 (Environment Interactivity)

智能体必须能够改变环境状态，并且这些改变必须能被自身感知到。这是具身智能区别于纯语言模型的根本：智能体是物理定律的参与者 (agent) 而非观察者 (observer)。这一属性要求世界模型不仅能预测感知信号，还必须能预测环境在物理意义上的演化——物体的位移、变形、流体的流动。

1.5.4 长时序规划能力 (Long-Horizon Planning)

许多现实任务 (整理房间、做饭、装配家具) 涉及分钟甚至小时级的时间跨度。智能体必须能够跨越数十、数百、数千个时间步进行规划，并且能在执行过程中动态调整。这一属性是行为机器人学的传统短板——基于反应式控制的方法通常只能处理秒级时间尺度。

1.5.5 四个属性的统一视角

四个属性看似独立，实际上是同一件事的四个投影：智能体必须能够在内部构建一个时间上连续、空间上完整、语义上对齐、可在内部操控的环境表征。这就是世界模型为什么不可缺位的根本原因。它同时是感知的下游整合器、动作的上游约束器、环境的内部镜像、规划的模拟器。

1.6 世界模型在感知—预测—决策—迁移四层架构中的枢纽作用

本节给出全书贯穿始终的四层架构，并指出世界模型在其中每一层的角色。

1.6.1 感知层 (Perception Layer)

感知层负责把原始传感器流 (RGB、深度、IMU、触觉、力矩、音频) 转换为结构化表征。在本书的框架中，感知层通常是世界模型的编码器或其前置模块。它输出的不是像素本身，而是被组织成"物体、关节、空间关系、语义类别"的隐状态。

1.6.2 预测层 (Prediction Layer)

预测层是世界模型的核心。它接收当前隐状态 $z_t$ 与候选动作 $a_t$，输出对下一状态 $z_{t+1}$、奖励 $\hat{r}_t$、终止 $\hat{d}_t$ 的预测。这一层是整个系统的"想象引擎"：所有长时序规划、所有反事实推理、所有零样本策略评估都在这里发生。

1.6.3 决策层 (Decision Layer)

决策层在预测层之上运行，典型方法包括：

• **交叉熵方法 (Cross-Entropy Method, CEM)**：在世界模型内部采样候选动作序列，根据回报挑选最优；
• **模型预测路径积分 (Model Predictive Path Integral, MPPI)**：在采样轨迹上加权平均，常用于连续控制；
• **蒙特卡洛树搜索 (MCTS)**：在离散动作空间的世界模型中做树搜索 (如 AlphaZero 类方法)；
• **隐空间策略学习**：在世界模型隐空间中直接训练 Actor-Critic。

决策层的输出是第一个动作，而不是完整规划——这是 MPC 留下的"滚动优化"遗产。

1.6.4 迁移层 (Transfer Layer)

迁移层解决"如何让在任务 A 上训练的世界模型，在任务 B 上仍然有效"。这包括三种主要形式：

1. 任务间迁移：从抓取迁移到放置，从桌面迁移到厨房； 2. 形态间迁移：从机械臂迁移到人形机器人，从轮式底盘迁移到四足； 3. 仿真到现实迁移 (Sim-to-Real)：从 Isaac Sim 迁移到物理硬件。

世界模型在迁移层中扮演两种角色：一是作为预训练的"环境先验"，提供通用的物理直觉；二是作为微调的起点，避免从零学习物理规律。本书第 14 章会详细讨论 sim-to-real 的具体技术。

1.6.5 世界模型作为枢纽的总结

四层架构的依赖关系可以概括为：感知层为世界模型提供输入，世界模型为决策层提供想象空间，决策层的反馈帮助改进世界模型，迁移层让这一切跨任务复用。没有世界模型，这四层之间只能通过松耦合的接口通信；有了世界模型，它们被一个统一的、可微分的隐空间紧密联系在一起。

1.