豆豆的第一个问题：AI 也会忘事吗？ / Dudu's First Question: Can AI Forget?

豆豆的第一个问题：AI 也会忘事吗？

Dudu's First Question: Can AI Forget?

> 🌟 本章冒险地图 / Chapter Adventure Map > - 🦁 一个关于"草原之王"的奇怪问题 / A strange question about the "King of the Savanna" > - 🧠 揭开 LLM 的两个小秘密 / Unveiling two little secrets of LLMs > - 📚 图书馆里的魔法公式 / The magic formula in the library > - 🎮 三张卡片的纸面 RAG 实验 / A paper-based RAG experiment with three cards > - 🎨 画出你自己的第一张"魔法地图" / Draw your very first "magic map"

---

🌅 故事开始：豆豆问了一个问题

在一个温暖的傍晚，小狐狸豆豆和它最好的朋友团团坐在窗边。窗外，金色的夕阳正缓缓地落向远处的山丘。豆豆刚刚读完一本关于非洲大草原的故事书，书里画着一只威风凛凛的狮子王。它抬起头，眼睛里闪着亮晶晶的好奇光芒，问了团团一个听起来很普通、其实非常深奥的问题：

"团团，狮子为什么是草原之王？是因为它们最大吗？还是因为它们最厉害？"

团团是一只喜欢思考的小狐狸，它挠了挠耳朵，回答道："这个嘛……让我想想。"

你想知道团团接下来做了什么吗？它打开了电脑，向一个叫做"大语言模型"（Large Language Model，简称 LLM）的 AI 助手提了同样的问题。几秒钟之后，屏幕上出现了一段非常流利、非常有自信的回答：

> 🗣️ AI 的回答 / AI's Answer > "狮子被称为草原之王，主要有以下几个原因：第一，狮子是草原上体型最大的猫科动物……第二，狮子是群居动物……第三，狮子拥有强大的咬合力……"

这段回答看起来头头是道，对不对？但是，豆豆听完之后，眉头却皱了起来。它小声地嘟囔："可是……我刚刚在书里看到，狮子其实不是最大的猫科动物，老虎比狮子还要大一点点呢。还有，书上说母狮子才是捕猎的主力，雄狮常常只是在旁边休息。AI 是不是在说错的事情？"

豆豆不知道的是，它刚才发现了一个非常重要的问题——这个问题不只是关于狮子的，而是关于所有 AI 的。

这就是我们这本书要解决的第一个大谜团：

> 🎯 本章核心问题 / Core Question > 1. 为什么聪明的 AI 也会说出错误的话？ > 2. 我们能不能让 AI 变得更可靠、说出更准确的答案？ > 3. "RAG" 这个听起来像咒语的词，到底是什么意思？

准备好了吗？让我们跟随豆豆和团团的脚步，一起踏上这段奇妙的探索之旅吧！

---

🧠 第 1 节：LLM 像一个记忆力很强、却记不住最新事情的同学

1.1 什么是大语言模型？

在我们回答豆豆的问题之前，先来认识一下今天故事里的主角——大语言模型（Large Language Model，简称 LLM）。

"大语言模型"这五个字看起来有点吓人，但团团给豆豆讲了一个很简单的解释：

> 💬 团团的解释 / Tuan Tuan's Explanation > "豆豆，你知道人类是怎么学会说话的吗？我们从小听爸爸妈妈说话，听老师讲课，听电视里的故事，慢慢地，我们就学会了怎样把词语组合成句子。LLM 也是这样'学说话'的，只不过它'听'的不是爸爸妈妈讲故事，而是成千上万本书、新闻、网页和文章。"

所以，我们可以把 LLM 想象成一个非常、非常勤奋的学生。它阅读了人类写下的海量文字——小说、诗歌、百科全书、新闻报道、论文、博客……它把这些文字里的规律都学到了脑子（我们叫它"参数"，也就是 model parameters）里。然后，当你向它提问时，它就会根据这些学到的规律，一个词一个词地写出答案。

这就是为什么 LLM 看起来那么"聪明"——它读过的文字比任何一个人一辈子能读的都多！

1.2 LLM 的"知识截止"：它不知道今天发生了什么

但是，这里有一个豆豆没有想到的关键问题：LLM 是什么时候读完那些书的？

想想看，如果你是一只在 2023 年 6 月读完所有故事书的小狐狸，那么 2024 年发生的事，2025 年发生的事，你就统统不知道了。LLM 也是一样的。每一个 LLM 都有一个"知识截止日期"（knowledge cutoff date）。

这是一个非常重要的概念，让我用表格来给你看看：

| 项目 / Item | 学生小狐狸 / Student Fox | 大语言模型 / LLM | | --- | --- | --- | | 学习方式 / How it learns | 读书、上课、听故事 / Read books, attend class | 阅读海量文本数据 / Read massive text data | | 学习时间 / When it learns | 每天都在学 / Every day | 在某个"训练阶段"集中学习 / During a specific "training phase" | | 知识截止 / Knowledge cutoff | 昨天晚上 / Last night | 比如 2023 年 6 月 / e.g., June 2023 | | 最新事件 / Latest events | 今天早餐 / Today's breakfast | 不知道 / Doesn't know |

所以，当我们问 LLM："昨天世界杯的冠军是谁？" 它可能会一脸茫然，或者——这就是更糟糕的情况——它会瞎猜。这就是豆豆遇到的问题的一部分：LLM 不是故意说谎，而是它真的不知道。

1.3 一个生活中的小例子

让我们用一个更贴近小朋友的例子来说明。假设你的好朋友小明告诉你：

> 🐰 小明的回答 / Xiao Ming's Answer > "昨天晚上，老师说下周一要带我们去动物园看长颈鹿！"

但是，如果你问小明："下周三我们要做什么？" 小明可能会回答："去动物园看长颈鹿呀！"

可是，老师其实改主意了，下周三不去动物园了，而是去博物馆。但是小明没有听到这个消息，所以它说错了。

LLM 也是这样。它可能在它的"记忆"里，关于狮子有很多很多的知识，但是这些知识可能是几年前的，也可能是不完整的。如果你问它一个它"记忆"里没有的事情，它就可能出错。

> 🎯 关键洞察 / Key Insight > LLM 的"知识截止"就像一个时间快照：它记录了某个时间点之前的所有信息，但是快照之后的事情它不知道。这是 LLM 第一个重要的局限性。

---

🎭 第 2 节：幻觉——LLM 编造的"假记忆"

2.1 什么是幻觉？

豆豆遇到的第二个问题更奇怪。AI 给出的回答看起来非常自信、非常流畅，但是内容却是编造的。

这种现象在 AI 领域有一个专门的名字，叫做"幻觉"（hallucination）。

"幻觉"这个词听起来很神奇，但其实意思很简单：AI 凭空编造了一些听起来很真实、但实际上不存在的事情。

2.2 一个会讲故事的"想象大王"

让我用一个比喻来帮助你理解。

假设你的好朋友小红非常喜欢讲故事。有时候她会根据真实的事情讲，有时候她会自己编一个故事。如果小红告诉你：

> 🌸 小红的故事 / Xiao Hong's Story > "昨天晚上我看见一只会飞的兔子，它在月亮上跳舞！"

你可能会想："这是真的吗？还是小红自己编的？"

LLM 有时候就像"小红想象大王"。当它不知道答案的时候，它不会直接说"我不知道"。相反，它会用学过的语言规律，把一些词语拼在一起，组成一段看起来很通顺的话。但是这段话里的内容，可能是它自己想象出来的。

这就是为什么豆豆发现 AI 说"狮子是最大的猫科动物"——其实老虎比狮子大。这就是 AI 编造的一个"假记忆"。

2.3 幻觉的三种类型

科学家们发现，LLM 的幻觉主要有三种类型：

类型一：无中生有型 🐉

• AI 编造了一个**不存在的事物**。
• 例子：AI 说"在亚马逊雨林里有一种叫做'彩虹蛙'的动物，它会随着心情变换颜色。"
• 真实情况：根本没有这种动物。这是 AI 编的。

类型二：张冠李戴型 🎩

• AI 把**真实的事物**和**错误的细节**混在一起。
• 例子：AI 说"爱因斯坦在 1955 年获得了诺贝尔物理学奖，因为他发现了相对论。"
• 真实情况：爱因斯坦确实在 1921 年获得诺贝尔奖，但他获奖是因为光电效应，不是相对论。

类型三：因果颠倒型 🔄

• AI 把**事件的原因和结果搞反**了。
• 例子：AI 说"人们因为喜欢苹果，所以苹果公司才出名。"
• 真实情况：苹果公司先做出了好产品，人们才喜欢它。

> 🎯 关键洞察 / Key Insight > 幻觉是 LLM 第二个重要的局限性。它不是 bug（错误），而是 LLM 工作方式的内在特征——它被设计成"生成下一个最可能的词"，所以当它不知道时，它就会"编一个看起来合理的"。

2.4 为什么 LLM 会"瞎编"？

这里有一个非常重要的原因：LLM 不是"知识库"，它是"语言生成器"。

让我再用一个比喻。如果把 LLM 想象成一个非常会写字的人，它的工作是——根据上下文，写出最合理的下一个字。比如：

• 输入："今天天气很 ___"
• 它会写："好"、"热"、"冷"……这些都是合理的。

但是，如果你问它一个它"训练数据"里没有的问题，它不会停下来思考"我不知道"。它会继续写下去，写出听起来最像答案的文字。

这就是为什么豆豆听到的那段关于狮子的回答，看起来那么流畅、那么自信——因为 LLM 在表演"自信"。它不是在思考"这是不是真的"，它只是在写"看起来像答案的话"。

2.5 幻觉的危害

幻觉不只是一个有趣的现象，它会造成真实的危害：

• 🏥 医生如果用有幻觉的 AI 看病，可能会给病人开错药。
• ⚖️ 律师如果用有幻觉的 AI 查法律，可能会引用不存在的判例。
• 📰 记者如果用有幻觉的 AI 写新闻，可能会报道假消息。
• 🎓 学生如果用有幻觉的 AI 写作业，可能会学到错误知识。

这就是为什么我们必须想办法解决幻觉问题。豆豆和团团接下来就要发现一个非常强大的工具——RAG。

---

📚 第 3 节：RAG = 检索 + 生成，图书馆里的魔法

3.1 豆豆的新发现

豆豆听完团团的解释之后，陷入了沉思。它想到了一个绝妙的主意：

> 🦊 豆豆的灵感 / Dudu's Inspiration > "团团！如果我们在问 AI 之前，先把正确的资料给它看，让它根据这些资料来回答，是不是就不会出错了？"

团团听完，眼睛亮了起来："豆豆，你刚刚发明了一个非常重要的 AI 技术！这种技术叫做 RAG！"

3.2 RAG 是什么？

RAG 是 Retrieval-Augmented Generation 的缩写，中文意思是检索增强生成。

让我们把这三个英文单词拆开来理解：

• **Retrieval** / 检索：找出、找到、查出来
• **Augmented** / 增强：让……变得更强、补充
• **Generation** / 生成：创造、写出

所以，RAG 的意思就是：在生成答案之前，先去查找资料，让答案变得更可靠。

用团团的比喻来说：

> 💬 团团的图书馆比喻 / The Library Metaphor > "想象一下，你有一个非常会写作文的朋友，但是他对最新的事情一无所知，而且有时候会瞎编故事。现在，我给他一个任务：写一篇关于非洲狮子的作文。但是我先带他去图书馆，让他读三本关于狮子的书。读完书之后，他再开始写作文。这样写出来的作文，是不是会更准确？" > > "这就是 RAG！先检索（Retrieval）资料，再生成（Generation）答案。中间的'Augmented'就是说，资料增强了生成的能力。"

3.3 RAG 的三个步骤

让我们把 RAG 拆成更具体的三个步骤：

步骤一：理解问题 ❓

• 当你问 AI 一个问题时，RAG 系统首先会**分析你的问题**，找出问题的关键词。
• 例子：你问"狮子为什么是草原之王"，关键词可能是"狮子"、"草原之王"、"原因"。

步骤二：检索资料 🔍

• RAG 系统拿着这些关键词，去一个**资料库**（比如一组文档、一本书、一个数据库）里搜索，找出**最相关的段落**。
• 例子：它可能找到一段话："狮子是群居动物，狮群中的母狮负责捕猎，雄狮负责保护领地。"

步骤三：生成答案 ✍️

• 把找到的段落和你的问题**拼在一起**，组成一个新的提示（prompt），送给 LLM。
• LLM 根据这些**真实的资料**，写出更可靠的答案。

3.4 一个完整的流程图

让我们用一张图，把 RAG 的整个流程画出来：

```mermaid flowchart LR A[User Question<br/>用户提问] --> B[Search Documents<br/>检索资料] B --> C[Top-k Chunks<br/>相关段落] C --> D[Build Prompt<br/>拼接上下文] A --> D D --> E[LLM Generate<br/>语言模型生成] E --> F[Final Answer<br/>最终答案] F --> G[Return to User<br/>返回给用户] ```

3.5 RAG 怎么解决豆豆的问题？

现在让我们用 RAG 来重新回答豆豆的问题：

1. 豆豆的问题：狮子为什么是草原之王？ 2. RAG 检索：系统去图书馆找到关于狮子的三段话——

• "狮子是群居动物，狮群通常由 5-30 只狮子组成。"
• "母狮是狮群的主要捕猎者，它们的合作捕猎成功率高达 30%。"
• "雄狮通过咆哮和巡视领地来保护狮群，它们的吼声可以在 8 公里外听到。"

3. LLM 生成：基于这些真实的资料，LLM 写出了答案——

• "狮子是草原之王，不是因为它们最大（实际上老虎比狮子大），而是因为它们**团队合作**和**保护领地**的能力。"

你看到了吗？这次回答完全基于真实的资料，所以不会出现"狮子最大"这样的错误。这就是 RAG 的魔力！

---

🎮 第 4 节：豆豆和团团的第一次 RAG 小实验

4.1 实验准备：一张桌子，三张卡片

豆豆和团团决定用最简单的方法，亲手做一次 RAG 实验。它们准备了：

• 🃏 **卡片一**：写着关于**草原生态**的故事
• 🃏 **卡片二**：写着关于**狮子习性**的故事
• 🃏 **卡片三**：写着关于**其他猫科动物**的故事

还有一个角色扮演的小游戏：

| 角色 / Role | 谁来扮演 / Who plays it | 任务 / Task | | --- | --- | --- | | 👨‍👩‍👧 检索器 / Retriever | 爸爸妈妈 / Mom or Dad | 根据关键词，找出最相关的卡片 | | 🦊 生成器 / Generator | 豆豆（小朋友）/ Dudu (the child) | 根据找到的卡片，写出最终答案 | | 📝 问题提出者 / Asker | 团团 / Tuan Tuan | 提出问题，并检查答案 |

4.2 实验步骤

步骤一：团团提出问题

• "豆豆，**狮子和老虎，谁更适合当草原之王？**"

步骤二：豆豆（生成器）找出关键词

• "狮子"、"老虎"、"草原之王"、"适合"

步骤三：爸爸妈妈（检索器）寻找卡片

• 爸爸妈妈看了看三张卡片，决定把"卡片二"（狮子习性）交给豆豆。

步骤四：豆豆（生成器）阅读并回答

• 豆豆读完了卡片二，写出了答案：
• "根据卡片，狮子是**群居动物**，它们会一起合作保护领地。所以狮子更适合当草原之王，因为它有团队！"

步骤五：团团验证

• 团团说："豆豆，你刚才做的，就是一个**微型 RAG**！你让爸爸妈妈帮你'检索'了资料，然后你'生成'了答案。这个流程和真正的 RAG 系统是一模一样的！"

4.3 实验结果分析

让我们看看这次实验和真正的 AI 系统有什么对应关系：

| 我们的游戏 / Our Game | 真正的 RAG 系统 / Real RAG System | | --- | --- | | 团团提问题 / Tuan Tuan asks | 用户输入问题 / User input | | 豆豆找关键词 / Dudu finds keywords | 文本分析（query understanding） | | 爸爸妈妈找卡片 / Parents find card | 向量检索 / Vector search | | 卡片上的内容 / Content on the card | 检索到的段落 / Retrieved chunks | | 豆豆写答案 / Dudu writes answer | LLM 生成 / LLM generation | | 团团的验证 / Tuan Tuan checks | 答案评估 / Answer evaluation |

4.4 一个稍微复杂一点的实验

让我们再做一个实验，这次加入更多变化：

场景：豆豆想知道"为什么有些动物会变色？"

准备的卡片：

• 🃏 卡片 A：关于"**变色龙**"的故事——它会根据周围环境变色，是为了**伪装和躲避天敌**。
• 🃏 卡片 B：关于"**章鱼**"的故事——它会改变皮肤颜色和质地，是为了**交流和吓跑敌人**。
• 🃏 卡片 C：关于"**北极狐**"的故事——它会从棕色变成白色，是为了**适应冬天的雪地**。

实验过程： 1. 豆豆提问题。 2. 爸爸妈妈（检索器）决定找出所有三张卡片，因为问题问的是"为什么有些动物会变色"，这三张卡片都有关。 3. 豆豆（生成器）读三张卡片，写出综合答案： 4. "动物会变色有三个主要原因：伪装（变色龙躲避天敌）、交流（