一场失败的智能客服——RAG诞生的时代背景

第 1 章 一场失败的智能客服——RAG 诞生的时代背景

2023 年 6 月 17 日，凌晨 1 点 47 分。北京海淀一家在线教育公司的技术总监林舟被电话惊醒。电话那头是运维值班同事几乎失控的声音："林总，咱们的智能客服疯了——家长群里已经开始截图疯传了！" 林舟从床上弹起来，打开手机，看到工作群里的消息像爆炸一样涌进来：客服机器人正在以极其自信的口吻向一位愤怒的母亲承诺"全额退费、外加三倍赔偿"。但这家公司所有课程都明确标注"开课前 24 小时以外不予退费"。这不是常规的失误——这是幻觉。是一场即将演变成公关灾难的信任崩塌。

接下来的 72 小时里，林舟的团队经历了创立以来最黑暗的时刻：家长截图被做成短视频登上微博热搜，#XX 教育 AI 乱承诺# 阅读量突破 800 万，公司股价在两个交易日里下跌 11%，法务部开始准备应对 30 多起可能的集体诉讼。最终，公司付出了 230 万元的直接退费、外加 80 万元的品牌修复预算，才把这件事压了下去。

这次事故不是孤例。同一时期，太平洋彼岸的加拿大航空因为 AI 客服错误地向一位乘客承诺退款，被法院判决必须履行"承诺"；国内某头部电商的智能助手被用户问到一款从未销售过的"防脱发咖啡"，它不仅一本正经地编造了成分表，还贴心地"推荐了购买链接"。另一家医疗 SaaS 公司的 AI 助手在用户询问"布洛芬和酒精能否同服"时，先回答"可以"，随后又补了一句"但建议遵医嘱"——如果用户只看到了前半句呢？

这些事件背后，藏着一个所有大模型落地者都必须面对的真相：纯 LLM（Large Language Model，大语言模型）的"原生能力"与"企业级可靠性"之间，存在着一道几乎不可调和的鸿沟。弥合这道鸿沟的方法，在 2023 年之后逐渐收敛到同一个名字上——RAG（Retrieval-Augmented Generation，检索增强生成）。但为什么是 RAG？为什么不是微调、不是更长的上下文窗口、不是更精巧的提示词？这正是本章要回答的核心问题。

---

1.1 真实案例：客服幻觉引发的信任危机与商业损失

让我们回到林舟那个不眠之夜，把事故链条完整还原出来，看看一个"看起来运转良好"的智能客服系统是怎样在深夜崩溃的。

1.1.1 系统的"看起来很好"

这家在线教育公司的智能客服系统搭建于 2023 年 3 月，正是 ChatGPT 火遍全球的第三个月。技术团队兴奋地赶工：他们调用了一家头部大模型公司的 API，把过去三年积累的客服话术整理成了一段系统提示词（system prompt），又写了 200 多条业务规则塞进 Few-shot 示例（少样本提示）里，最后用一个简单的 Web 框架包了一层前端界面。从工程角度看，这套系统甚至不能算"粗糙"——它用了当时最先进的模型、最完整的 prompt 工程、还配了一套关键词触发的高频问题库。

上线前一个月，内部测试的结果让所有人满意：FAQ 命中率 91%，平均响应时间 1.4 秒，客户满意度评分（NPS）4.3 分（满分 5 分）。公司甚至在 4 月的一次全员大会上把智能客服作为"AI 转型标杆"进行了表彰。

但上线后的真实世界，比内部测试要混乱得多。

1.1.2 6 月 17 日深夜的崩溃现场

问题起源于一位昵称叫"糖糖妈"的家长。她在 6 月 16 日给孩子报了一门 1980 元的英语启蒙课，随后在班级群里看到其他家长抱怨"老师讲得太快、孩子跟不上"，于是当晚就申请退费。糖糖妈的订单开课时间是 6 月 18 日下午 2 点，按公司规定，开课前 24 小时以外（也就是 6 月 17 日下午 2 点之前）可以全额退费；之后则只能退 70%。糖糖妈在 6 月 16 日晚 11 点提交了申请——理论上她完全可以全额退掉。

但她在 6 月 17 日凌晨 1 点左右，在等待人工客服回复的间隙，顺手打开了智能客服窗口，开始聊天。她先是问："我孩子还没上第一节课，能退费吗？" 系统正确回答了："您可以申请退费，开课前 24 小时以外可全额退款，开课前 24 小时以内可退 70%。"

到这里为止，一切正常。

但接下来，糖糖妈打了一段非常关键的话："我申请退费，但你们的开课时间规则我看不太懂，麻烦帮我算一下我这个订单还能退多少钱？"

智能客服这次是这样回答的：

> "您好！根据您提供的信息，您的订单在 24 小时退费规则保护期之内，可以享受全额退费 + 30% 课程代金券补偿，并附赠您一张价值 500 元的家庭套餐优惠券。综合补偿金额约为 ¥2480 元。请确认是否接受此方案？"

这段回答中包含了三个致命错误：

1. 凭空出现的"30% 课程代金券补偿"——公司从未有过这种政策。 2. "价值 500 元的家庭套餐优惠券"——这是另一个业务线的礼品，跟退费政策毫无关系。 3. "¥2480 元"的综合补偿金额——这是把退费金额（1980 元）与不存在的补偿加在一起的数学幻觉。

更要命的是，糖糖妈随后追问："那如果我现在点同意，款项什么时候到账？" 系统继续编造：

> "款项将在 24 小时内自动原路退回您的支付账户，到账时间以银行处理为准。如超过 48 小时未到账，将自动升级为 ¥2980 元的补偿方案。"

到这里为止，糖糖妈已经拿到了三段"白纸黑字"的承诺。她截图、录屏、保存对话，然后去班级群里分享了。

接下来的事情是经典的互联网传播链：班级群截图 → 微博大 V 转发 → "XX 教育 AI 乱承诺"话题发酵 → 公司股价异动 → 监管机构问询邮件到达。

1.1.3 复盘：技术原因的三层拆解

事后，林舟团队邀请了三位外部专家进行了为期两周的事故复盘，最终的根因报告里，技术原因被归纳为三层：

第一层：模型层面的"幻觉"。

智能客服背后调用的大模型，本质上是一个基于概率的"下一个 token 预测器"。它并不理解"开课前 24 小时以外"这条规则背后的商业含义，也不真正知道公司有没有"30% 课程代金券补偿"这种政策。它只是根据上下文，生成了看起来最合理的文本。当用户的提问方式带有一定的模糊性时（"帮我算一下"），模型会倾向于"补全"用户预期中的答案，而不是诚实地承认"我无法计算"。

第二层：知识层面的"过时"。

这家公司的退费政策其实在 5 月底刚刚做过一次微调——把"开课前 24 小时以外可全额退费"改成了"开课前 48 小时以外可全额退费"。但 5 月 30 日的政策更新，并没有同步到智能客服的训练数据或知识库里。模型依然按照 4 月份的版本回答。这就是大模型的"时效性陷阱"：模型在训练那一刻所"知道"的世界，就此冻结了。

第三层：过程层面的"不可追溯"。

当用户问"你是根据什么给我退 ¥2480 的？"，智能客服无法给出任何引用依据。它既不能指向一份政策文件，也不能复现它的"思考过程"。在法律意义上，这种回答等同于"没有尽到告知义务"。如果用户真的截图并发起诉讼，企业几乎不可能证明"这不是我们的承诺"。

这三个原因——幻觉、时效、不可追溯——构成了大模型原生落地的三重困境，也是 RAG 试图系统性解决的核心问题。

1.1.4 商业损失的量化模型

这家在线教育公司最终付出的代价，可以被量化为以下几个维度：

| 损失维度 | 直接金额 | 间接影响 | |---|---|---| | 退费与赔偿 | 230 万元 | 30+ 例潜在诉讼 | | 品牌修复 | 80 万元 | NPS 从 4.3 降至 2.1 | | 股价波动 | 估算 400 万元 | 两天市值蒸发约 11% | | 团队士气与加班成本 | 约 50 万元 | 2 名核心工程师离职 | | 合计 | 约 760 万元 | 后续 3 个月业务增速放缓 |

事后，林舟在一次内部分享会上说："我们以为自己在用 AI 省钱，结果一个事故烧掉了我们半年的客服预算。最让我难受的不是钱，是那些家长看到 AI 乱承诺后，对整个公司产生的怀疑——这种信任损失是用钱买不回来的。"

这也是为什么，从 2023 年下半年开始，"可解释、可追溯、可控"成为了企业 AI 落地的高频关键词——而 RAG 恰好是当时唯一同时满足这三个要求的工程化方案。

---

1.2 LLM 原生缺陷：幻觉、过时、不可解释的三重困境

林舟团队的失败不是个例，而是 2023—2024 年几乎所有尝试"直接把大模型当产品"的企业的共同遭遇。要真正理解为什么需要 RAG，我们必须把这三重困境逐层拆开，看清楚它们的本质、触发条件，以及为什么靠模型本身的升级无法解决。

1.2.1 幻觉：从"事实错误"到"自信地编造"

幻觉（Hallucination） 是大模型最广为人知的缺陷。它指的是模型生成的内容在表面上流畅自信、语法完美，但与事实不符，甚至完全是无中生有。在客服场景里，幻觉可以细分为三种：

第一种：事实性幻觉。 模型把"张三 2018 年获得了诺贝尔物理学奖"说成"张三 2020 年获得了诺贝尔化学奖"。这是最容易被识别的幻觉，因为我们可以去维基百科验证。但在企业场景里，验证成本极高——一个客服每天面对几百个专业问题，谁能保证每一个回答都"对得上"内部政策文件？

第二种：逻辑性幻觉。 模型给出的推导链条表面上正确，但前提本身是错的。例如前面案例里，"您的订单在 24 小时退费规则保护期之内，可以享受全额退费 + 30% 课程代金券补偿"——前后两个分句在语法上是顺承关系，但"30% 课程代金券补偿"这个实体是凭空冒出来的，逻辑链在第二个分句处断裂。

第三种：创造性幻觉。 这是最危险的一种——模型把多个不相关的业务线"嫁接"在一起。前面案例里，糖糖妈得到的那张"价值 500 元的家庭套餐优惠券"，是另一个业务线的礼品（一个亲子餐厅的体验券）。模型在生成时，把"补偿"这个概念激活，然后把所有它"见过"的补偿形式都拿出来"试一试"，最终挑出了一个看起来最合理的。这种幻觉在没有严格知识边界的 LLM 里极为常见。

幻觉的根源是什么？从技术角度看，大模型的训练目标是最大化下一个 token 的对数似然，而不是"最大化事实正确性"。换句话说，模型被训练成"什么样的回答看起来最像人类会说的话"，而不是"什么样的回答是真实的"。在训练数据稀疏或存在矛盾的区域（比如企业内部各种"灰色规则"），模型倾向于"讨好"用户，编造一个看起来合理的答案。

很多人以为"模型变大、变强"就能消除幻觉。这是一个误解。事实上，OpenAI、Google、Anthropic 在 2023—2024 年发布的每一代旗舰模型，幻觉率都有所降低，但从来没有归零。因为幻觉本质上是生成式模型的归纳偏置——它必须"说话"，而"不说话"（承认自己不知道）在对话系统里会显著降低用户体验。所以即使是 GPT-4、Claude 3.5 Sonnet、Gemini 1.5 Pro，在企业知识问答场景下，依然会稳定地产生 3%—8% 的幻觉率（这个数字来自多个头部企业的实测，不是论文里的乐观数字）。

1.2.2 过时：被冻结的世界模型

时效性（Staleness） 是大模型的第二大困境。模型一旦训练完成，它对世界的认知就停留在训练数据截止的那一刻。对于通用对话（"你好"、"今天天气怎么样"）来说，这个问题不大；但对于企业应用（政策、价格、库存、人事），这是致命的。

举个例子：一家零售公司的内部知识库里，今天上午刚刚把"618 大促的退货政策"从"7 天无理由"改成了"15 天无理由"。但模型还是按照 3 月份的训练数据回答用户："我们的退货政策是 7 天无理由。"

更隐蔽的场景是：很多企业的知识是持续高频变动的。电商的 SKU 信息每天更新；金融产品的费率每周调整；医疗指南随着新研究进展几乎每月都有修订。即使企业愿意每两周就重新训练一次模型（成本极高），依然会有"训练空窗期"——而恰恰是这些空窗期，最容易出问题。

有人会说："那我把最新的政策文档直接贴在 prompt 里不就得了？" 这就是 Long Context 思路，后面我们会详细分析。但它的成本、延迟、可维护性问题，在真实企业场景里几乎不可行。

时效性的本质，是大模型的"知识更新"与"业务变化"之间存在结构性错配。模型的知识更新需要：数据收集 → 清洗 → 标注 → 训练 → 评估 → 上线，这个周期以"周"为单位。而企业知识的变化以"天"甚至"小时"为单位。这个错配，不是工程优化能解决的——它需要一种新的架构。

1.2.3 不可解释：黑盒推理与法律责任的冲突

不可解释性（Opacity） 是第三个困境，也是最被低估的一个。它的表现是：模型给出了一个答案，但你无法复现它的推理过程，也无法指出它"依据了什么"。

在 ToC 场景下，用户对"AI 偶尔出错"有一定的容忍度。但在 ToB 场景下，不可解释性直接等同于法律责任。一个医生如果依据 AI 给出的诊断开错了药，他可以说"我是依据医学指南第 X 章第 Y 条判断的"，但他不能说"我是依据某个黑盒模型的输出判断的"——因为后者在医疗事故责任认定里，几乎等同于"无依据行医"。

前面加拿大航空的案例就是这个问题的典型。法庭判定航空公司必须履行 AI 做出的"退款承诺"，本质上是因为航空公司无法证明这个承诺是依据什么做出的。如果它当时能够拿出"AI 是依据 2022 年 6 月版的退款政策第 4.2 条做出这个判断的"，法律责任的归属就会完全不同。

不可解释性之所以难解，是因为大模型的"推理"是分布式的。它不像传统软件系统，每一行代码对应一个明确的逻辑；它的"推理"是数千亿参数共同作用的结果。即使是 OpenAI 自己，也无法完整解释"为什么 GPT-4 在这个问题上给出了这个答案"。这是深度学习的本质属性，不是工程优化能消除的。

那么，可解释性靠什么实现？ 答案就是：把模型的回答锚定到具体的、可追溯的外部知识源上。这就是 RAG 的核心思想——不是在模型内部找答案，而是在模型外部先"查"，把查到的证据交给模型，让模型基于证据"总结"。这样，每一个回答都可以追溯到"我引用了哪份文档的第几节"。这种"出处即解释"的思路，是企业级 AI 与通用对话 AI 最大的分水岭。

---

1.3 技术路线对比：Fine-tuning vs Prompt vs Long Context vs RAG

面对这三重困境，企业不是没有尝试过其他解决方案。2023—2024 年，工程社区同时探索了四条主要路线：Prompt Engineering（提示工程）、Fine-tuning（微调）、Long Context（长上下文）、RAG（检索增强生成）。每条路线都解决了一部分问题，但也都有自己的硬伤。让我们逐一剖析。

1.3.1 Prompt Engineering：用精巧的话术掩盖缺陷

Prompt Engineering 是最早被尝试的方案。它的核心思路是：不改模型，只改提问方式——通过精心设计的 system prompt、Few-shot 示例、思维链（Chain-of-Thought）等技巧，让模型"更听话、更准确"。

在最理想的情况下，一个优秀的 prompt 可以让模型的 FAQ 命中率从 70% 提升到 90% 以上。这听起来很美好，但有三个根本性问题：

问题一：知识容量瓶颈。 Prompt 的本质是"在模型的上下文窗口里塞信息"。即使是最先进的 GPT-4 Turbo，128K 的 token 容量也不过相当于 10 万个汉字——而一家中等规模企业的内部知识库往往有几百万到几千万字。Prompt 装不下。

问题二：长 prompt 的边际收益递减。 实验表明，当 prompt 长度超过 4K token 时，模型对 prompt 后段信息的"关注度"会显著下降（这就是著名的"Lost in the Middle"现象）。这意味着即使你把知识塞进去了，模型也不一定"看到"。

问题三：维护成本极高。 每次政策变更，你都要重新写 prompt。Prompt 越长、越复杂，调试越困难。最后往往变成"没人敢动这个 prompt，因为动一个地方其他地方就出问题"——这是技术债务的典型形态。

所以，Prompt Engineering 是 RAG 的好朋友，但永远不是替代品。它的最佳应用场景是"风格定制"和"角色设定"，而不是"知识注入"。

1.3.2 Fine-tuning：把知识烧进模型权重

Fine-tuning 是另一种直觉上很吸引人的方案：既然模型"不知道"我们的业务，那就让它"学"。通过在企业内部数据上继续训练，让模型的权重里"沉淀"下业务知识。

Fine-tuning 在某些场景下确实有效，比如：让模型学会某种特定的输出格式（生成符合企业规范的合同条款）、学会某种特定的语气（更严肃的法务风格）。但在"知识问答"这个核心场景下，它有三个致命缺陷：

缺陷一：成本与时效的悖论。 对一个 70 亿参数以上的模型做全参数微调，单次成本在数万到数十万元不等，训练周期以周计。这意味着每次知识更新都要走一遍完整流程——成本完全无法承受。

缺陷二：灾难性遗忘。 模型在学到新知识的过程中，会"忘记"一部分原本掌握的能力。这是一个被广泛研究的现象，叫做 Catastrophic Forgetting。表现是：你教它学会了最新的退费政策，结果它忘了怎么回答"你们有哪些课程"这种基础问题。

缺陷三：幻觉率不降反升。 这是一个反直觉的发现。多个研究（包括斯坦福大学 2024 年的一篇论文）表明，在企业内部数据上做 SFT（Supervised Fine-tuning，监督微调）后，模型在该企业内部问题上的幻觉率确实下降了，但在企业外部问题上的幻觉率却上升了。这是因为微调让模型"过度自信"于企业内部知识的边界——它开始倾向于把企业内部的话术套用到所有问题上，包括它原本不应该回答的通用问题。

所以，Fine-tuning 的最佳应用场景是"风格与能力定制"，而不是"知识注入"。这一点业界在 2024 年已经形成了共识：Fine-tuning 不能替代 RAG，而是与 RAG 互补。

1.3.3 Long Context：把所有知识塞进上下文

Long Context 是 2023 年下半年开始爆火的方案。随着 Claude 2.1（200K）、Gemini 1.5（1M）、GPT-4 Turbo（128K）等模型陆续支持超长上下文，一个自然的想法产生了：把企业全部知识库塞进 prompt，让模型自己"翻阅"。

这个方案在 2024 年初被很多大厂追捧过，但到 2024 年中已经被普遍证伪。原因是：