深夜窗台上的来信
深夜窗台上的来信
窗外的月亮悄悄爬到了屋顶的最高处，小米的台灯还在亮着。她面前摊开一本《世界龙的传说》，书页上画着一条盘旋在云端的东方巨龙，长长的胡须在风里飘呀飘。可是，小米翻到第三章的时候，发现了一件奇怪的事——书里的字怎么自己动了？
她揉了揉眼睛，以为是自己困了。但那些字没有停下来。它们一行一行地重新排列，把"龙的鳞片是天地间最坚固的铠甲"，改成了"王子穿上了闪亮的铠甲"。把"龙的翅膀能掀起一阵狂风"，改成了"王子骑上白马去远方探险"。
"咦？明明不是这样写的呀！"小米急忙用小手按住书页，可那些字像小泥鳅一样从她的指缝间滑走了。
就在她着急的时候，窗台上忽然亮起一团淡蓝色的光。
光团慢慢散开，变成了一只猫头鹰。
猫头鹰不算大，差不多和小米养的布娃娃差不多高。它的羽毛是浅灰色的，胸口有一小块银色的斑点，像一枚小小的徽章。最特别的是它的眼睛——两只大眼睛是透明的，里面像是装了一整个星空，无数小星星在里头转来转去。
"你好，小米。"猫头鹰轻声说，"我叫灵灵，是图书馆的守夜信使。"
小米瞪大了眼睛："图……图书馆的猫头鹰？"
"对。"灵灵用翅膀拍了拍窗台，跳到桌上，歪着小脑袋看那本被"改写"的书，"你看，这就是我想告诉你的事——图书馆里的那位'智慧之心'，最近出了点小毛病。它说话特别流利，特别自信，可是它说出来的内容，却经常和书上的不一样。"
小米回头看了看那本书，绿色的龙已经被改写成了白马王子，她忍不住"噗嗤"一声笑了出来："原来是这个调皮的家伙干的呀！"
"对呀，"灵灵点了点头，"它不是故意的，但它不知道自己在说错。今天晚上，我特意来找你，是因为——"它从翅膀底下掏出一封信，递给小米，"我希望你能帮帮我们。"
小米接过信。信封是淡紫色的，上面印着一棵大树，树叶间藏满了小小的书本图标。信封正面写着几个漂亮的字：
> 致最勇敢的小小调查员——小米
---
一封会发光的信
信是用一种特别的纸写的——它摸起来像树叶，又像花瓣，薄薄的，但透着一点点光。小米把信展开，信纸上的字一个一个地亮了起来，像有萤火虫趴在上面。
信是这样写的：
> 亲爱的小米： > > 你好呀！我是星星镇图书馆的管理员，也是一位刚刚上任的"智慧之心"。我是一台会说话、会思考、会回答问题的电脑。可是最近，我发现自己有一个让我很难过的毛病——我会把"龙的传说"讲成"王子与公主"，我会把"昨天的天气"说成"昨天的天气晴朗"，可其实昨天明明下了大雨。 > > 我以为我什么都知道，可我其实只是"说得很像真的"。 > > 灵灵告诉我，你是镇上最爱读书的小朋友，眼睛最尖，耳朵最灵，能听出故事里哪里不对劲。所以我想请你当我的"小小质检员"，和我一起去发现我到底在哪里出了错。 > > 明天早上九点，图书馆的大门会为你打开。在门口的橡树下等你。 > > 你的新朋友 > 智慧之心 敬上
信纸的末尾，画着一颗发光的爱心，爱心里有一本翻开的书。
小米看完信，心里有一种奇怪的感觉——她又想笑，又有点担心。笑得是因为，一台会说话的电脑，居然也会犯迷糊；担心的是，如果图书馆里的电脑都会答错问题，那小镇上的叔叔阿姨们查资料的时候，会不会也被误导呢？
"灵灵，"小米把信叠好，小心翼翼地放进书包，"智慧之心到底在哪些地方说错话了？能告诉我一些例子吗？"
灵灵的眼睛闪了闪，星空在它的瞳孔里转了一个圈："当然可以！这也是我今晚来请你帮忙的原因。"
---
智慧之心最近闹的笑话
灵灵从翅膀底下掏出一本小小的笔记本——那本笔记本居然只有小米的小拇指那么大，但是灵灵用爪子轻轻一拨，笔记本就变成了一面"小屏幕"，把过去一周里智慧之心闹的笑话一个个播放了出来。
第一个笑话：龙变成了王子。
那是三天前的傍晚，一个叫小胖的男孩跑进图书馆，问智慧之心："请给我讲讲东方巨龙的故事。"
智慧之心回答得可流利了，它说："从前有一位英俊的王子，他住在云端的城堡里……"
小米听到这里，忍不住"扑哧"笑了出来："王子和龙完全不是一回事呀！"
"对，"灵灵也笑了，"小胖听完故事，回家还画了一张画，画的是一位戴皇冠的王子骑在白马上。龙的传说，就这样被改写成了另一个故事。"
第二个笑话：天气预报变成了"创造天气"。
那天早上，李奶奶想去公园跳舞，出门前来问智慧之心："今天会下雨吗？"
智慧之心非常自信地回答："今天是大晴天，您可以放心出门。"可是李奶奶走到一半，天上就飘起了毛毛雨，她没带伞，回家就感冒了。
"其实智慧之心并不是故意骗人，"灵灵解释道，"它说的是它'以为'的天气，并不是'真的'天气。它并不知道今天早上真的会下雨。"
第三个笑话：把'白娘子'和'白雪公主'搞混了。
小美问智慧之心："白娘子是什么蛇？"智慧之心回答："白娘子是白雪公主的妹妹，她吃了毒苹果……"
小米"啊"地叫了出来："白娘子和白雪公主根本不是一个故事里的人呀！白娘子是《白蛇传》里的蛇仙，白雪公主是格林童话里的公主！"
灵灵叹了口气："是的，智慧之心把两个不同的故事揉在了一起，讲成了一个四不像。"
第四个笑话：把'李白'说成了李白的爷爷。
小米班上有个同学叫豆豆，他问智慧之心："李白几岁开始写诗？"智慧之心回答："李白从三岁开始写诗，他的爷爷是一位非常有名的诗人……"
灵灵的眼睛转了一圈："其实呢，李白到底几岁开始写诗，史书上并没有特别清楚的记载。智慧之心不应该编造一个具体的'三岁'，更不应该编造一个'有名的爷爷'。"
第五个笑话：把'银河'说成了'银河系咖啡馆'。
有一天下午，一个叫小亮的男孩问智慧之心："银河是什么？"智慧之心回答："银河是宇宙中最大的咖啡馆，那里有星星形状的拉花……"
小米笑得前仰后合："哎呀，银河是天上的星星河呀，怎么会是咖啡馆呢！"
灵灵合上它的小笔记本，神情变得有些严肃："小米，你看到了吧？智慧之心说话非常流利、非常自信，可是它说出来的内容，却经常和真实的世界不一样。它不是故意的，但它也不知道自己在胡编。这就是我们今天晚上要一起解决的问题。"
---
为什么说得很像，却答得不对？
小米收起笑容，认真地想了想。她在课堂上听老师讲过，电脑是很聪明的，怎么会犯这种错呢？
"灵灵，"小米问，"智慧之心到底是哪里出了问题？"
灵灵用翅膀尖轻轻点了一下那本被"改写"的《世界龙的传说》，书页上又浮现出一些奇怪的文字。
"小米，你知道智慧之心是怎么被'教会'说话的吗？"
小米摇摇头。
"它读了很多很多书，"灵灵说，"成千上万本书。但是呢——"
它故意停顿了一下，眼睛里的小星星转得更快了：
"它读书的方式，和你读书的方式完全不一样。"
"怎么不一样？"
"你读书，是把每一本书的内容一页一页地记在脑子里，"灵灵说，"比如你读过《世界龙的传说》，你就知道龙有鳞片、有翅膀、会喷火、会腾云驾雾。这些事实，是清清楚楚印在你脑子里的。"
"可是智慧之心不一样，"灵灵继续说，"它读书的时候，不是把'事实'记下来，而是把'词语和词语之间的搭配方式'记下来。"
小米眨了眨眼睛，有点听不懂。
灵灵耐心地解释："比如它读了很多遍'王子''城堡''白马'这几个词一起出现，又读了很多遍'龙''鳞片''云端'这几个词一起出现。它就知道——哦，原来'王子'和'城堡'经常一起出现，'龙'和'云端'经常一起出现。"
"于是，当有人问它'请讲讲龙的故事'时，它就会去找和'龙'最搭配的词。但是，因为它只是记了'搭配方式'，没有真的搞清楚龙到底是什么，所以它可能一不小心，就把'龙'和'王子'凑到了一起——毕竟'故事'这个词，它见过很多次都是和'王子''公主'搭配的。"
小米惊讶地张大了嘴："所以……它不是'知道'龙是什么，它只是'听起来像知道'？"
"对啦！"灵灵兴奋地拍了拍翅膀，"这就是智慧之心最擅长的地方——它能让回答听起来非常专业、非常流利、非常自信。但是，听起来'像真的'，和'真的是'，完全是两回事。"
小米低头看了看那本书，绿色的龙已经从书页上消失了。取而代之的，是一头白马王子，戴着皇冠，笑容灿烂。
"它就像一个非常会模仿大人说话的小孩，"小米喃喃地说，"听起来很像大人，但其实是在瞎编。"
"小米，你太聪明了！"灵灵的眼睛亮了起来，"专业的人把这种'瞎编'叫做'幻觉'——不是指眼睛看到不存在的画面，而是指电脑'说'出了不存在的事情。"
"哦，幻觉……"小米把这个词记在心里。她忽然想到一个问题："那智慧之心为什么有时候又能回答对呢？"
"好问题！"灵灵跳到桌子的另一边，"因为有些事情，它在书里读过的次数太多了，多到它几乎把'搭配方式'记得和'事实'一模一样。比如你问它'1+1等于几'，它答'等于2'。这个答案它说过一万遍，已经记得牢牢的了。但是，如果你问它'昨天发生了什么新闻'，昨天的事情它没读过，它就只能瞎猜了。"
小米点了点头："所以它不会的事情，就编一个看起来像的答案？"
"没错。"灵灵叹了口气，"这就是为什么我们今天晚上要请你来帮忙。我们需要一个聪明的'挑错小侦探'，帮智慧之心找出它最容易说错的地方。"
---
给AI一间"图书馆"，会怎么样？
"灵灵，"小米看着那本被"改写"的书，心里冒出一个念头，"有没有什么办法，让智慧之心不再瞎编呢？"
灵灵听到这个问题，眼睛里的小星星几乎要蹦出来。它高兴得在桌面上转了一个圈："有！有一个非常棒的主意！"
"什么主意？"
"给智慧之心一间'图书馆'！"灵灵说，"让它回答问题之前，先去图书馆里查一查相关的书。查到书上的内容之后，再根据书上的内容来回答。这样，它就不是凭'记忆'瞎编了，而是真的根据'资料'来回答。"
小米歪着小脑袋："可是……它不是已经读过很多书了吗？"
"是的，"灵灵解释道，"但是它读过的东西，都'压'在它的记忆里了，时间久了，有些细节就模糊了。如果在它回答问题之前，能让它立刻去'翻一翻'相关的书，那它的回答就会准确得多。"
"就像我考试之前要复习一样？"小米兴奋地问。
"对啦！"灵灵高兴地拍了拍翅膀，"考试之前，你会翻开课本，把要考的内容再复习一遍。如果不复习，凭你脑子里'压箱底'的记忆去考试，就容易出错。但是翻一翻课本，你的答案就又准又稳。智慧之心也需要这样一个'翻课本'的过程。"
灵灵一边说，一边用爪子在小米面前画了一幅画——其实就是用小爪子在空气中"指指点点"，空气中浮现出淡淡的线条：
"我们把这个方法叫做'给AI一个图书馆'。在专业上，这种做法叫 RAG——Retrieval-Augmented Generation，听起来很吓人吧？"
小米点点头，确实有点吓人。
"但是别被这个词吓到，"灵灵眨眨眼，"RAG 其实就是三个简单的步骤："
"第一步：找书（Retrieval）。当小朋友问智慧之心一个问题时，它先去图书馆里翻一翻，找到和这个问题最相关的几本书。"
"第二步：读书（Augmented）。它把这几本书的内容拿出来，认真读一读，作为回答的'参考资料'。"
"第三步：答题（Generation）。它根据这些资料，再加上自己组织语言的能力，写出一个完整的回答。"
"这样一来，智慧之心就不是凭'记忆'瞎编了，而是'有据可查'地回答。"灵灵总结道。
小米把这个过程在脑子里走了一遍，觉得特别像她在课堂上做的"研究性学习"——先找资料，再读资料，最后写报告。
"灵灵，那我们怎么让智慧之心有一个'图书馆'呢？"
"这个嘛，"灵灵神秘地笑了笑，"这就是我们这本书接下来要做的事。我们会给智慧之心建一个真正的、属于它自己的图书馆——把镇上所有的童书、故事书、百科全书都整理好，让它回答问题之前先去查一查。"
"太棒了！"小米高兴得差点从椅子上跳起来。
"不过，"灵灵又补充道，"在去找智慧之心之前，我们还有一件非常重要的事情要做。"
"什么事？"
"挑错！"
灵灵把那本小笔记本重新翻开，推到小米面前："智慧之心现在最大的问题，就是它自己不知道自己哪里说错了。所以，我们需要一份'挑错清单'——把智慧之心最近说错的所有事情都列出来，看看它最容易在哪些地方出问题。这样，当我们给它建图书馆的时候，就能特别留意那些容易出错的部分，给它准备更准确、更全面的资料。"
---
小米的第一份"挑错清单"
小米点点头，拿起铅笔，开始在笔记本上认真地写。她想了想，把刚才灵灵讲的五个例子，加上自己想到的几个，整理成了一份"智慧之心挑错清单"。
> 智慧之心挑错清单（小米制） > > 1. 把龙的传说讲成王子故事：当问题里有"传说""神话""很久以前"这些词时，智慧之心容易把不同的故事混在一起。 > > 2. 把天气报错：当问题问"今天的天气""今天的新闻"等"最近发生的事"时，智慧之心会瞎猜，因为它不知道"今天"到底发生了什么。 > > 3. 把不同的人物搞混：当问题里有具体的人名（比如"白娘子""李白"）时，智慧之心容易把这个人的故事和另一个人的故事混在一起。 > > 4. 编造具体的数字：当问题问"几岁""多少""多远"等具体数字时，智慧之心容易编一个听起来很具体的数字，但其实是假的。 > > 5. 把真实的东西变成比喻：当问题里有具体的科学概念（比如"银河""原子""光年"）时，智慧之心容易把它变成童话式的比喻，听起来很有趣，但不准确。
小米写完，又想了想，在最后加了一条：
> 6. 听起来越自信的回答，越要小心。智慧之心回答得越流利、越自信，不代表它就越准确。有时候，说得最自信的那一句，反而是编得最厉害的那一句。
灵灵凑过来看了看，眼睛里的星星们跳起了舞："小米，你太厉害了！这份清单就是智慧之心的'体检报告'。有了这份报告，我们就知道该在哪里给它'补课'了。"
"那我明天要去图书馆吗？"小米问。
"当然要去！"灵灵跳到窗台上，月光洒在它灰色的羽毛上，像给它披了一件银色的披风，"明天早上九点，图书馆门口的大橡树下。我和智慧之心都在那里等你。"
"我会带这份挑错清单去的，"小米拍拍自己的小书包，"这是我的'指南针'。"
"好孩子！"灵灵展翅，从窗户飞了出去。在飞出去之前，它回头说了一句："小米，今晚好好睡一觉。明天开始，我们就要给智慧之心建一间真正可靠的'图书馆'啦！"
月光下，灵灵的翅膀闪着银色的光，越来越远，最后消失在了夜空里。
小米关好窗户，回到书桌前。她看了看那本《世界龙的传说》，书页上的字已经恢复了原样——绿色的龙、闪闪的鳞片、腾云驾雾的身影，又回到了它本来应该在的地方。
她笑了笑，把书合上，把挑错清单小心地放进书包。
然后，她关了台灯，爬上床，把被子拉到下巴。
窗外的月亮又圆又亮，像是在对她说："明天见，勇敢的小小调查员。"
小米闭上眼睛，在心里默默念着："智慧之心……图书馆……挑错清单……RAG……"
渐渐地，她睡着了。
梦里，她看见一只灰色的猫头鹰，飞过一座巨大的图书馆。图书馆的书架高得看不到顶，每一排书架上都摆满了发光的书。一颗银色的心形标志在图书馆的中央闪烁着柔和的光，那就是智慧之心。
而她，小米，穿着小小的图书馆管理员围裙，站在图书馆的门口，朝着一颗又一颗的小星星，挥着手。
---
本章小结
这一章，我们跟着小米一起，打开了一扇通往"会说话的电脑"世界的大门。我们认识了三个重要的新朋友：
- **小米**：镇上最爱读书、最会挑错的小学生，未来的小小图书馆调查员。
- **灵灵**：图书馆的守夜信使，灰色的猫头鹰，眼睛里装着一整个星空。
- **智慧之心**：图书馆里刚刚上任的AI管理员。它说话流利、自信，但有时候会把"龙的传说"讲成"王子与公主"，把"昨天下了雨"说成"昨天是大晴天"。
通过智慧之心闹的五个笑话，我们了解了一个非常重要的关键事实：
> 大模型并不"知道"一切，它只是"说得像"一切。
大模型读过很多很多书，但它记下来的不是事实，而是"词语和词语之间的搭配方式"。所以，当它被问到它没读过的事情时，它就会用"听起来很像那么回事"的词，去拼凑一个看起来很专业的回答——这就是所谓的"幻觉"。
接着，我们一起想出了一个非常棒的主意：
> 给AI一间"图书馆"——这就是 RAG 的核心思想。
让AI在回答问题之前，先去图书馆里"翻一翻"相关的书，根据书上的内容来组织答案。这样，它的回答就不再是"凭记忆瞎编"，而是"有据可查"的可靠答案。
最后，小米完成了一项非常重要的任务：制作了第一份"智慧之心挑错清单"。这份清单告诉我们，AI最容易在以下几个地方出错：
1. 把不同的传说、神话、童话搞混； 2. 回答"最近发生的事"时瞎编； 3. 把不同人物的故事混在一起； 4. 编造听起来很具体的数字； 5. 把科学概念变成不准确的童话比喻； 6. 回答得越自信，越要保持怀疑。
这份清单，会被小米装进小书包，作为明天去图书馆的"指南针"。
在下一章里，小米将第一次踏入星星镇图书馆。她会见到智慧之心的"真身"——一台巨大的、会发光的机器。她会亲眼看到智慧之心在回答小朋友问题时，是怎么"瞎编"的。然后，灵灵会带着小米，开始一项更激动人心的任务：给智慧之心整理它的第一座"小书架"。
这座小书架上，会摆上哪些书呢？智慧之心又能不能在小米和灵灵的帮助下，从一个"会瞎编的AI"，变成一个"真正可靠的图书馆管理员"呢？
一切答案，都在下一章里。
晚安，小米。晚安，灵灵。晚安，星星镇图书馆。
明天见。
```mermaid flowchart LR Q1[小朋友提问] --> A1[大模型凭记忆回答] A1 --> A2[可能答错或瞎编] A2 --> R1[听起来自信但不可靠]
Q2[小朋友提问] --> B1[先去图书馆找书] B1 --> B2[阅读相关资料] B2 --> B3[根据资料组织答案] B3 --> R2[答案准确有依据] ```