生成式AI的基础：LLM 能做什么、不能做什么

生成式人工智能之所以在短时间内引发广泛关注，一个重要原因在于：它把“语言”这种最通用的符号系统，变成了可计算、可生成、可交互的接口。人们第一次在日常生活中直观地感受到，机器不仅能检索信息、执行指令，还能在对话中写作、归纳、解释、编程、拟定方案，甚至表现出某种“像在思考”的过程。然而，恰恰因为这种体验过于自然，公众也容易把语言流畅误认为理解深刻，把回答完整误认为事实可靠，把推理步骤误认为逻辑必然。本章的目标是建立全书的基本思维框架：理解大语言模型（LLM）的核心任务是什么、生成式建模的基本机制是什么，并用一个可操作的能力模型——理解、记忆、决策、规划、风险——来解释它“能做什么”以及“不能做什么”。

语言建模：把“下一步该说什么”变成数学问题

语言建模的对象：序列与概率

从工程角度看，LLM 的出发点并不是“理解世界”，而是“建模文本序列的统计规律”。给定一个由 token（可理解为字/词/子词片段）组成的序列 $x_{1:n}=(x_1,x_2,\dots,x_n)$，语言模型要学习的是条件概率：

$$ p(x_{t}\mid x_{<t}) \quad \text{或更一般地} \quad p(x_{1:n})=\prod_{t=1}^{n} p(x_t\mid x_{<t}) $$

直观解释是：模型不断回答同一个问题——“在已有上下文 $x_{<t}$ 的条件下，下一个 token 最可能是什么？”当这一问题在海量语料上被优化到足够好时，模型就获得了强大的“文本延续能力”。而对人类而言，这种延续能力恰好覆盖了大量知识表达、推理书写、规范写作与对话互动的形式，因此被体验为“通用智能”的一种外观。

训练目标：最小化预测误差（交叉熵损失）

现代 LLM 大多采用最大似然估计（Maximum Likelihood Estimation, MLE）或等价的交叉熵损失来训练。用更贴近实践的表述：把真实文本当作“标准答案”，让模型在每个位置都尽量预测对下一个 token。常见损失为：

$$ \mathcal{L} = -\sum_{t=1}^{n} \log p_\theta(x_t\mid x_{<t}) $$

其中 $\theta$ 是模型参数。训练过程并不要求模型显式构建事实数据库、因果图或逻辑系统；它只需在统计上更擅长生成“像人写的、在语境中合理的文本”。

token 化：为什么模型会“断句奇怪”或“算术不稳”

LLM 并不是按“字”或“词”的自然边界理解语言，而是按 token 序列处理。token 的划分方式受算法与语料影响：高频片段会被合并成一个 token，低频词会被切分成多个 token。这带来两类重要后果：

• **形式敏感**：同一含义的不同表述可能触发不同 token 序列，从而导致输出波动。
• **计算非本质**：算术、表格、严格格式输出属于“符号操作任务”，与自然语言的统计规律并不完全一致；模型可能会在看似简单的计算上失误，但在复杂叙述上更流畅。

> 侧边栏（阅读提示）：当你看到模型输出“非常像真的”，请先问一个更基础的问题：这段话是“统计上顺畅”，还是“证据上可靠”？两者并不等价。

生成式建模：从“最可能”到“可用、可控、多样”

生成不是复读：采样策略决定了“创造性”与“稳定性”

即便模型学得了概率分布 $p(x_t\mid x_{<t})$，真正把分布变成文本仍需“解码”（decoding）策略。不同策略会显著改变输出：

• **贪心解码（Greedy）**：每步选概率最大的 token，稳定但容易变得刻板。
• **束搜索（Beam Search）**：保留多个候选路径，更像“寻找最优句子”，常用于翻译等任务，但可能降低多样性。
• **随机采样（Sampling）**：按概率抽样，使输出多样，但可能引入不可靠内容。
• **温度（Temperature）**：调节分布“尖锐程度”。温度低更保守，温度高更发散。
• **Top-k / Top-p（核采样）**：只在概率最高的前 k 个或累积概率达到 p 的集合中采样，兼顾多样与质量。

因此，生成式 AI 的“创造力”在相当程度上不是模型“突然灵感迸发”，而是：在一个高维概率空间中，以特定规则抽取一条可读路径。理解这一点有助于我们在应用中更现实地谈“可控性”：你能控制的往往是采样与约束，而不是让模型保证“永远正确”。

从语言到多模态：生成式建模的统一视角

“生成式建模”并不局限于文本。只要数据能表示为序列或离散/连续的可学习表示，类似思想就能扩展到图像、音频、视频与动作序列。多模态模型常见做法包括：将不同模态映射到统一的表示空间，或把图像切成视觉 token，再用类似语言模型的方式预测下一个 token。这也是为什么同一类模型架构能同时完成“看图说话”“读图表”“生成图片说明”等任务。

LLM 能做什么：把语言作为通用接口的“能力外延”

把 LLM 的能力理解为“语言接口能力”，通常比把它理解为“类人的理解能力”更准确。以下能力之所以成立，是因为它们都可以被转写为“输入—输出的语言转换任务”。

1）表达与改写：写作、润色、风格迁移

LLM 擅长在语气、结构、长度、受众等约束下重写同一信息。例如把口语改成正式报告，把技术说明改成面向非专业读者的解释，把冗长段落压缩成要点列表。其价值在于显著降低“表达成本”，尤其适合非写作者的日常工作。

案例 A：会议纪要自动结构化

• 输入：一段杂乱的会议录音转写或聊天记录
• 输出：议题—结论—待办—负责人—截止时间的结构化纪要
• 关键点：模型并不“知道”会议发生了什么，但它能学习“纪要文本的规范形式”，并在给定材料中抽取和重组信息。

2）信息归纳：摘要、对比、提炼“可复用结论”

在长文档中，LLM 能把分散的信息压缩成层级结构：先给结论，再给依据；先给共识，再列分歧。对普通读者而言，这种能力最直观的收益是节省阅读时间。

> 引用（重点）：当材料本身可信时，LLM 的摘要常常“更有用”；当材料本身不可信时，LLM 可能把不可信内容“总结得更像真的”。

3）知识性问答：解释概念、提供步骤、列举选项

LLM 在许多常识与通用知识领域表现良好，尤其当问题本身允许“解释型答案”而非“精确事实”。例如解释经济学概念、给出学习路线、提供常见诊断思路（但不等于医学诊断结论）。

这里需要区分两类任务：

• **解释任务**：问“是什么/为什么/怎么做”，答案允许一定表述自由。
• **事实任务**：问“某年某人发表了什么/某条法规第几条”，答案要求精确可核对。

LLM 在解释任务上通常更稳，在事实任务上需要外部检索或引用来源来“落地”。

4）代码与结构化输出：把需求转为“可执行的文本”

当编程语言被视为一种“高度规范的文本”，LLM 往往能生成可运行代码、SQL、正则表达式、测试用例骨架，或把自然语言需求变成 JSON/表格等结构化格式。其优势在于：把“从意图到形式化表达”的转换自动化。

案例 B：数据分析脚本的半自动生成

• 场景：用户描述“读取 CSV → 清洗缺失值 → 画箱线图 → 输出统计摘要”
• LLM 产出：Python/Pandas/Matplotlib 的脚本骨架，并解释每一步
• 风险点：库版本差异、边界条件、数据类型异常；需要用户执行与验证

5）对话式协作：迭代澄清、逐步收敛方案

对话并不是“更像人”，而是一种高效的交互协议：用户逐步补充约束，模型逐步修正输出。对普通读者而言，这种交互方式降低了使用门槛：你不必一次写出完美需求，只需通过追问让结果逐渐成形。

下面用一个流程图概括“从提示到可用结果”的实践路径：

```mermaid graph TD A[提出任务与约束] --> B[模型生成草案] B --> C{是否可核验?} C -- 否 --> D[补充材料/拆分任务/加入格式约束] D --> B C -- 是 --> E[外部验证: 检索/计算/运行/引用] E --> F{通过验证?} F -- 否 --> D F -- 是 --> G[定稿与留痕: 来源/版本/假设] ```

LLM 不能做什么：从机制出发理解“系统性短板”

讨论“不能做什么”并不是否定 LLM 的价值，而是为了建立正确的使用边界。很多失败并非偶然，而是由训练目标与交互方式内生决定的。

1）不能天然保证真实性：流畅不等于正确

语言模型优化的是“更像人类文本”的概率，而不是“与现实一致”的真值函数。它可以在缺乏证据时生成看似合理的细节，这被称为“幻觉”（hallucination）。幻觉并不意味着模型“故意撒谎”，而是：在不确定区域，它仍必须输出某个 token 序列；而“编造细节”在统计上可能比“承认不知道”更像训练语料中的常见文本模式。

2）不能稳定进行严格推理：它会推理，但不保证每次都对

LLM 能生成推理链条、证明草稿、步骤分解，这一点非常有用；但它的推理更像“语言化的推理模拟”，可靠性与题型、提示方式、上下文长度、采样策略强相关。研究与工业评测中常见现象包括：同一题目换个说法正确率改变；增加无关信息导致错误；长链条推理中前期小错被后续“合理化”。

对普通读者而言，关键结论是：

• **LLM 可用于提出推理路径与候选结论**
• **但关键结论必须可核验**（通过计算、实验、检索、引用或专家复核）

3）不能长期记住你：参数记忆与上下文记忆的差异

很多人将 LLM 的“记忆”理解为聊天软件那种永久记忆，但在机制上需严格区分：

• **参数记忆（parametric memory）**：模型在训练中吸收的统计规律与知识，固化在参数里，用户无法直接定位其来源，也难以保证时效性。
• **上下文记忆（contextual memory）**：本次对话窗口内的内容，超出窗口就会被“遗忘”（除非系统另有外部存储与检索机制）。

因此，若任务需要“可追溯、可更新、可引用”的知识，往往需要引入检索增强生成（RAG）、数据库、知识库或文件引用，而不应把模型当作可靠的长期记忆体。

4）不能天然理解你的目标函数：偏好与价值需要外部对齐

LLM 的输出倾向常由训练数据分布与对齐方法（如人类反馈强化学习、偏好优化等）塑形。它可以表现得“像在帮助你”，但并不等同于它“理解你的利益最大化目标”。在涉及成本、收益、风险权衡的问题上，模型可能给出看似中立实则隐含偏好的建议。

5）不能自动免疫社会技术攻击：提示注入与数据泄露风险

一旦 LLM 被接入工具（浏览器、数据库、邮件、工单系统等），攻击者可能通过“提示注入”（prompt injection）诱导模型泄露敏感信息或执行不当操作。风险不在于模型“坏”，而在于：语言本身就是指令的载体，当模型把语言当作“可执行的行动建议”时，安全边界必须由系统设计来提供。

能力模型：理解、记忆、决策、规划、风险

为了在后续章节中持续、统一地讨论生成式 AI 的应用与边界，本书采用一个五维能力模型。它不是心理学意义的“人类能力”，而是面向工程与治理的分析框架。

理解：语义关联能力，而非可证明的“心智把握”

LLM 的“理解”更准确地说是：在高维表示空间中捕捉语义、语用与上下文关系，能在多种表述之间保持一致性。它能解释概念、完成类比、指出矛盾、给出例子，这些都呈现出强烈的理解外观。

但应注意两点边界：

• **理解可表现为一致性，不代表有真实世界的接触**（它并不“看见”你说的桌子，除非有多模态输入）。
• **理解缺乏可追溯证据链**：模型很难告诉你“我为什么确定这是真的”，它通常只能生成一段符合语言习惯的解释。

实践建议：在需要“证据”的任务（法规、医学、金融、学术引用）中，把 LLM 用作“解释器/摘要器/导航器”，而不是“裁判”。

记忆：把“可更新知识”外置，把“会话信息”结构化

在实际系统中，可靠记忆往往来自外部组件，而不是模型参数。一个常见可行架构是：

• 把事实与文档放在可检索的存储中（知识库、向量库、数据库）
• 由系统检索相关片段，再交给模型生成答案并附带引用

这种做法的优点是：可更新、可追溯、可审计。对普通读者而言，你可以把它理解为“开卷考试”：模型负责组织语言与解释，资料由外部提供。

案例 C：检索增强的政策问答

• 输入：用户问“某项补贴的申请条件是什么？”
• 系统先检索：政策原文条款与官方解读
• 模型输出：条件列表 + 条款引用 + 不确定项提示
• 价值：显著降低“编造条款”的风险

决策：生成建议很容易，承担责任很困难

LLM 可以列出选项、分析利弊、给出推荐，这在信息不足时尤其诱人。但“决策”不只是文本产出，还涉及责任归属与后果承担。模型无法对现实后果负责，因此在高风险场景中应采取更严格的决策流程，例如：

• 明确决策权在人而不在模型
• 将模型定位为“顾问”，而非“批准者”
• 引入阈值与升级机制：超出范围转人工或专家

规划：能产出计划，但需要执行反馈闭环

LLM 能把目标拆解为步骤（学习计划、项目计划、旅行行程等），这是其最有用的能力之一。规划的关键问题在于：真实规划需要不断接收执行反馈、修正假设、处理资源约束。纯文本生成缺乏环境反馈时，计划容易变成“纸面合理”。

因此，一旦进入可执行系统（如自动化工具链、智能体 Agent），就必须建立：

• 可观测的状态（任务进度、失败原因）
• 可回滚的操作（避免不可逆损害）
• 可验证的中间产物（每步都有检查点）

风险：把“不确定性”显式化，把“可控性”制度化

风险维度并不只是“有害内容”，还包括偏见、隐私泄露、误导性建议、版权与合规问题。对普通读者而言，最实用的风险管理原则是两句话： 1. 把不确定性写出来：让模型在输出中标注假设、缺口与需要核验的点。 2. 把关键环节制度化：在流程上要求引用来源、双人复核、日志留痕、敏感信息脱敏。

下面给出一个可直接复用的“核验清单”（适用于多数严肃场景）：

• **来源**：是否给出可追溯依据（链接、文档片段、数据出处）？
• **范围**：是否明确适用条件与不适用情况？
• **不确定性**：是否标注可能错误的环节与需要人工确认的点？
• **一致性**：同一问题换问法，核心结论是否一致？
• **可执行性**：步骤是否可操作，是否包含检查点与回退方案？

小结：以机制为锚点，以能力模型为地图

本章建立了三个关键认知支点。第一，LLM 的核心任务是语言建模：学习 $p(x_t\mid x_{<t})$ 并通过解码策略生成文本。第二，生成式能力的强大来自“语言作为通用接口”的外延效应：许多知识工作可以转写为文本转换问题，因此模型显得无所不能。第三，LLM 的系统性局限同样源于其机制：它不天然保证真实性，不稳定保证严格推理，不自动拥有长期记忆，不理解你的真实目标函数，也不自带安全边界。

从下一章开始，本书将以“理解—记忆—决策—规划—风险”的能力模型作为贯穿主线：一方面解释生成式 AI 在不同任务中的有效用法，另一方面给出在真实世界中把它安全、可控、可审计地嵌入工作流的方法论。这样，我们既不把 LLM 神化为全知全能的智能体，也不将其简化为“只会聊天的玩具”，而是在明确边界的前提下，最大化其现实价值。