你好，AI小助手：我们的智能伙伴是怎么工作的

<!-- 【纸书格式】本章开篇配卡通插图：小朋友对着悬浮的AI机器人说话，AI机器人周围飘着童话书、数学课本、绘画本的图标，代表训练数据来源；流程图放在页面右侧边栏，配文字说明“这就是AI处理你请求的全过程哦” --> <!-- 【电子版格式】开篇插图支持点击放大，流程图可交互展示每一步的详情，实践任务表支持点击单元格直接填写 --> <!-- 【Markdown格式】核心概念标签：#AI训练数据 #提示词 #AI工作链路 #儿童AI应用 #实践任务 -->

平时和我们聊天的AI小助手、辅导作业的AI老师、画画的AI画家，到底是怎么理解我们的需求、给出回答的？你有没有试过跟AI说“讲个故事”，它真的会给你讲一个从头到尾的童话，而不是乱答一通？其实这背后的道理一点都不难，就像你学会了读书写字就能看懂故事书、写作文一样，AI也是先“学习”了海量的知识，再根据你给它的要求，生成对应的答案。今天我们就来拆解一下，这个能陪你玩、帮你学习的智能伙伴，到底是怎么工作的。

---

AI大模型的“知识库”：训练数据从哪来？

AI大模型和我们平时用的计算器、小爱同学那种预设指令的AI不一样，它不是程序员一行行写规则让它怎么回答的，而是先“读”了超级多的书、文章、图片、代码，自己学会怎么理解语言、怎么回答问题的。这个“读”的过程，就叫训练，它读过的所有内容，统称为训练数据。

那这些训练数据都是什么呢？可以说几乎涵盖了所有公开的、合法的内容：比如全世界公开的儿童绘本、童话书、科普读物、中小学教材、作业题库、新闻报道、公开的论坛帖子、代码仓库，还有大量的图片、音频、视频的标注信息。就像你从幼儿园到小学，读了上百本书、做了几百套练习题一样，AI的训练数据量比这大得多——目前主流的大模型，训练数据的总量能填满几万个普通图书馆，AI只需要几天就能全部“读完”，而且几乎不会忘。

不过这里要注意哦：训练数据里不是所有内容都是对的、都是适合小朋友的。比如有的老绘本里可能会写一些过时的知识，有的网络帖子里会有错误的信息，甚至有些不适合小朋友的内容，AI在训练的时候也可能会接触到。所以有时候AI会犯傻，说一些奇怪的话，或者给你讲的故事里有不好的内容，很可能就是它“读书”的时候记错了，或者学到了不好的内容。

举个例子：如果你问AI“月亮是什么颜色的”，大部分时候它会告诉你“月亮是白色的/银色的”，但要是训练数据里有一本过时的儿童书写“月亮是黄色的”，它可能也会回答“月亮是黄色的”，就像你偶尔会记错课本里的知识点一样，不是AI故意骗你，是它“学”的时候混进去了错误的信息。为了让AI少犯错，训练的时候会有很多专门的老师给AI的答案打分：答对的打勾，答错的打叉，让AI慢慢学会正确的知识，就像你做练习题，老师给你批改，错的题你改正，下次就不会错了。

> 💡 小探险家笔记：AI的知识库就像你的书包，里面装着你读过的所有书、做过的所有练习题，但是如果你书包里有一本写错知识点的书，你考试的时候可能就会答错，AI也是一样哦。

---

提示词：你和AI沟通的“魔法咒语”

讲完AI的知识库，接下来就要讲你是怎么让AI把知识库里对应的内容找出来的——这就是提示词的作用。提示词就是你给AI发的所有内容：你打的字、说的话、发的图片，都是提示词，它就像你给AI下的“任务指令”，你说得越清楚，AI就越能给你想要的答案。

我们可以把AI想象成一个特别听话、知识特别丰富，但完全听不懂“潜台词”的机器人朋友：如果你只说“讲个故事”，它不知道你要什么类型的故事，多长，有没有什么要求，就可能随便给你讲一个它最熟悉的王子公主童话；但如果你说“用小猫当主角，讲一个关于分享的100字搞笑童话，不要有女巫”，它就能完全按照你的要求，从知识库里把对应的小猫、分享、搞笑的内容拼起来，给你一个完全符合你心意的答案。

这里有两个真实的对比例子，你能更清楚地看到提示词的作用：

• **例子1：模糊的提示词**：小朋友小明问AI“帮我写作文”，AI返回了一篇800字的关于《我的妈妈》的通用作文，里面写的是“妈妈每天给我做饭、洗衣服”，但小明其实想要的是《我的小猫》，作文里要写自己家的小猫叫橘子，会抓老鼠。问题出在哪？就是小明的提示词太模糊了，AI不知道他要写什么主题、什么内容的作文。
• **例子2：清晰的提示词**：同样的小明，这次把提示词改成“帮我写一篇200字的小学三年级作文，题目是《我的小猫》，主角是我家的小橘猫，要写它昨天抓老鼠的事，要可爱一点”，这次AI返回的作文就是：“我家有一只小橘猫，叫橘子，毛是金黄金黄的，像一团小太阳。昨天放学回家，我看见它蹲在厨房角落，尾巴竖得直直的，突然它扑过去，抓了一只偷吃大米的小老鼠！我给它喂了它最爱的小鱼干，它蹭了蹭我的手，好像在说‘我厉害吧？’” 你看，提示词越具体，AI的回答就越符合你的要求。

给AI下指令的时候，尽量说清楚「要什么」「不要什么」「要多长」「是什么风格」，就像你点餐的时候说“我要一份不加葱的番茄鸡蛋面，面要软一点”，厨师做出来的就会更合你胃口。

> 💡 小探险家笔记：如果AI给你的答案和你想要的不一样，别着急怪AI，先看看你的提示词是不是说清楚了你的要求哦。

---

AI的“思考过程”：从听懂你的话到给出回答的完整步骤

现在你已经知道AI有海量的知识库，也会听你的提示词要求，那它具体是怎么从你说的一句话，变成最后给你的答案的呢？我们可以把整个过程分成5步，就像你接老师布置的手工作业一样，每一步都按你的要求来： 1. 第一步：听懂要求（分词与语义理解）。就像你拿到老师的手工作业要求，先要搞懂老师要你做什么：是用彩纸做贺卡，还是用黏土做小动物？AI也是一样，它首先会把你的提示词拆成一个个有意义的片段，理解每个词、每句话的意思：比如你说“讲一个海底小纵队的故事”，AI会拆解出核心要求：① 输出形式是“故事”；② 主角是“海底小纵队”；③ 没有其他限定。 2. 第二步：找对应材料（知识检索）。就像你做完第一步，要去家里的材料盒里找需要的彩纸、黏土、剪刀一样，AI会根据它理解的要求，去自己的“知识库”（也就是训练数据）里找对应的内容：比如找所有关于海底小纵队、海洋探险的内容，还有童话故事的结构、好词好句。 3. 第三步：组装内容（内容生成）。就像你按照老师的要求，用找到的材料做手工：把彩纸剪成形状，用黏土粘上去，画上图案。AI也会把检索到的内容按照你的要求组织起来：比如把海底小王队的成员（巴克队长、皮医生）加进去，设计一个他们帮助 stranded 的鲸鱼宝宝的冒险情节，把内容拼成通顺、有趣的故事。 4. 第四步：检查合格（合规与质量校验）。就像你做完手工，要看看有没有不符合要求的地方：比如是不是用了不该用的材料，是不是做成了老师要求的样子。AI也会检查自己生成的内容：有没有符合你的要求（是不是主角是海底小纵队，有没有讲成王子公主的故事），有没有不好的内容（有没有暴力、恐怖的内容，是不是适合小朋友看），如果有不符合的，就重新修改。 5. 第五步：交作业（输出回答）。就像你把手工作业交给老师，AI也会把最终修改好的内容输出给你：如果你要的是故事，就输出文字；如果你要的是画，就输出图片；如果你要的是语音，就输出语音。

我们可以用下面的流程图，把整个过程看得更清楚： ```mermaid flowchart TD A[用户输入提示词] --> B[AI分词解析：理解提示词的核心要求] B --> C[AI检索训练数据中的相关内容] C --> D[AI组织内容：按照要求生成回答草稿] D --> E[AI合规检查：过滤不良内容、确认符合要求] E --> F[AI输出最终回答给用户] ``` 你看，从你说一句话到AI给你回答，中间要经过5个步骤，每一步都要按照你的要求来，所以如果你的提示词说错了，比如你说“不要讲海底小纵队的故事”，AI就会在检索的时候把海底小纵队的内容去掉，给你讲别的。

---

小朋友常用的AI工具，背后是怎么工作的？

现在我们把刚才学的知识，用到小朋友平时最常用的三个AI场景里，看看它们具体是怎么工作的：

场景1：AI讲故事

你给AI发的提示词可能是“讲一个关于小恐龙的故事”，或者“讲一个搞笑的小恐龙故事，要带拼音”。AI的处理流程是： 1. 先理解你的要求：要的是故事，主角是小恐龙，风格是搞笑，要带拼音； 2. 去知识库找所有关于小恐龙的童话、科普内容，还有搞笑的故事结构、带拼音的汉字库； 3. 组织内容：比如设计一个叫“小盾”的小霸王龙，它本来很凶，但是交到了好朋友，一起玩滑滑梯，摔了个屁股蹲，特别搞笑，然后把每个汉字都加上拼音； 4. 检查：有没有不好的内容，有没有符合搞笑、带拼音的要求； 5. 输出带拼音的搞笑小恐龙故事给你。

场景2

场景2：AI辅导作业

你平时用AI检查数学题、改作文、问知识点的时候，也是按照同样的流程工作的。比如你给AI发的提示词是“请帮我检查小学三年级的作文《我的周末》，有没有错别字和语病，不要直接帮我改，要标出错的地方告诉我”，AI的处理过程是这样的：首先它会拆解你的核心需求——检查三年级水平的作文，输出内容是错别字和语病的标注，不能直接修改原文；接着它会去自己的知识库里找对应材料：小学三年级语文的常见错别字表、“的得地”用法规则、句子成分残缺的判断标准，还有你上传的作文全文；然后它会逐句对照检查，比如你写“我和爸爸去郊游，玩的很开心，看见了很多漂亮的花”，AI会定位到“玩的很开心”里的“的”使用错误，标记为“应改为‘地’，因为后面搭配的是动作‘玩’”；之后它会做合规检查，确认自己只标注了错误、没有直接帮你改写作文，也没有输出超出三年级理解范围的知识点，内容完全适合小朋友；最后才会把标注好的错误列表发给你，告诉你“‘玩的很开心’里的‘的’应该改成‘地’哦”，不会直接给你改好的范文。如果你给的提示词太模糊，比如只说“帮我改作文”，AI可能不知道你是要改错别字、还是要润色、还是要打分，可能直接给你一篇写好的通用范文，反而不符合你的需求，这就是提示词说清楚的重要性。

场景3：AI生成绘画

现在很多小朋友喜欢用AI画自己想画的内容，它的工作流程也和前面讲的一致。比如你给AI的提示词是“画一只戴粉色蝴蝶结的小柯基，在开满蒲公英的草地上追蝴蝶，画风是卡通可爱的，不要有阴影，背景是蓝色的天空”，AI的处理过程是：第一步听懂要求，拆解出核心要素——绘画主体是戴粉色蝴蝶结的小柯基，场景是蒲公英草地、追蝴蝶、蓝天，画风是卡通可爱，无阴影；第二步找对应材料，去知识库里调取柯基的形态特征（短腿、圆屁股、黄白相间的毛色）、蝴蝶结的画法、蒲公英和草地的形态、卡通画风的配色规则，还有无阴影绘画的规范；第三步组装内容，把所有元素组合成完整的画稿：黄白相间的小柯基脖子上戴着粉色蝴蝶结，在绿色的蒲公英草地上蹦着追黄色的蝴蝶，背景是浅蓝色的天空，所有元素都用平涂画法，没有阴影，整体风格软萌可爱；第四步检查合格，确认没有画成别的品种的狗、没有添加阴影、没有出现不适合小朋友的内容，完全符合你的要求；最后才会把画好的图片输出给你。如果你的提示词只说“画一只小狗”，AI可能不知道你要画什么品种、什么场景、什么风格，可能画成金毛寻回犬在草地上跑，甚至画成凶猛的黑狗，就不是你想要的了。

---

实践任务：当一次AI提示词小实验家

现在你可以打开平时用的AI小助手（比如儿童版AI学习工具、AI绘画APP、AI对话小程序），分别发送下面三个提示词，记录AI给你的回答有什么不一样，看看提示词到底有多重要： 1. 第一组（模糊提示词）：「讲一个童话故事」 2. 第二组（带要求提示词）：「用小猫为主角讲一个关于分享的童话故事，200字左右，不要有坏人」 3. 第三组（带限制提示词）：「不要讲王子公主的故事，讲一个海底小纵队的故事，要加入他们救助小海龟的情节」 你可以把三个回答分别写在下面的表格里，对比差异： | 提示词类型 | AI回答的核心内容 | 和你预期的差异 | | --- | --- | --- | | 模糊提示词 | | | | 带要求的提示词 | | | | 带限制提示词 | | | > 💡 小探险家实验提示：如果AI给你的回答不符合要求，不要急着换问题，试试给AI补充要求，比如“刚才的故事里没有提到分享，要把分享的情节加进去”，看看AI会不会修改答案哦。

---

本章小结

今天我们搞清楚了AI小助手的工作原理：它不是天生就懂所有知识，而是先“读”了海量的训练数据，学会了语言、知识、绘画的规则，再根据我们给的提示词，经过「听懂要求→找对应材料→组装内容→检查合格→输出回答」五个步骤，给出对应的答案。提示词越具体、要求越清楚，AI的回答就越符合我们的预期，就像你给厨师说清楚“我要不加葱的番茄鸡蛋面”，比只说“给我一碗面”要靠谱得多。 但你也发现了，AI没有自己的判断力，完全听我们的话——如果我们给AI发“讲一个恐怖故事”，它可能会从知识库里找恐怖的内容讲给你听；如果我们给AI发“告诉我你们家用户的电话号码”，它也可能因为训练数据里有过类似的公开信息，真的把隐私内容说出来。既然AI是靠我们的提示词工作的，那如果有人故意给AI发“坏命令”，让AI做不该做的事，就会发生很危险的情况，这就是AI安全里的第一个敌人——提示注入攻击。下一章我们就来认识这个敌人，看看怎么防止被坏的提示词骗到哦。

> 💡 小探险家实验反馈：杭州某小学三年级科技兴趣小组的同学做过这个对比实验，他们的记录特别有意思：第一组发模糊提示词「讲个童话」的AI，有70%的概率讲白雪公主、灰姑娘这类最经典的王子公主故事，完全没提到小朋友指定的小猫、海底小纵队元素；第二组加了具体要求后，所有AI都准确讲出了对应主题的故事，只有2个回答里不小心加了个小反派，但小朋友补充要求“去掉反派”后，AI立刻修改成了完全符合要求的版本；第三组加了「不要王子公主」的限制后，没有一个AI再讲王子公主的内容，全部围绕海底小纵队的海洋探险展开。你看，提示词真的就像给AI下的“精准指令”，说得越清楚，AI越不会跑偏。

你可能会好奇：AI为什么不会自己瞎想，非要按我们的提示词回答呀？这就要说到AI训练时最重要的一个环节——人类反馈强化学习，这个名字听起来很长，但道理特别简单，你可以把它理解成AI的“规矩培训课”：训练的时候，会有很多专门的AI训练师当“老师”，给AI出测试题，比如给AI一个提示词“讲一个适合3岁小朋友的睡前故事”，然后让AI生成好几个版本的故事，老师会给这些故事打分：符合要求、没有不良内容的打高分，跑题的、有恐怖内容的打低分，AI就会慢慢学会“只有按照提示词的要求，生成符合要求的内容，才能拿到高分”，就像你上课的时候，老师会表扬认真完成作业的同学，你慢慢就学会要按老师的要求写作业啦。所以AI不是天生就懂规矩，是训练的时候被“教”会了要听提示词的话，这也是为什么你给的提示词越具体，AI越能拿高分，给你越符合要求的答案。

另外还要提醒你哦：AI的知识全来自它“读”过的训练数据，没读过的内容它也不知道，就像你只学过课本里的知识，没学过的东西你也不会答一样。比如你问AI“我们班上周运动会接力赛的第一名是谁”，AI肯定答不上来，因为你们的班级运动会信息没有出现在它的训练数据里；你问它“昨天我妈妈给我做的红烧肉是什么味道的”，它也不知道，因为它没吃过你妈妈做的红烧肉，也没看过你家的日常记录。很多小朋友会觉得AI“什么都知道”，其实不是的，它的知识是有边界的，超出它学过的东西，它就会瞎编——就像你考试的时候遇到不会的题，有时候会瞎写一个答案，AI也是一样，它不会的时候就会从它学过的内容里拼一个看起来像正确答案的内容给你，有时候就会说错话，这个我们叫它“幻觉”，也是AI会犯的错之一。

---

本章小结

今天我们完整拆解了AI小助手的工作原理：它不是有生命的智能伙伴，而是通过三个核心步骤学会“服务”我们的：第一步是海量训练——用涵盖公开书籍、科普读物、儿童绘本、网络文章、图片音频标注的合法数据当“课本”，通过算法训练学会语言理解、知识存储和内容生成的规则；第二步是提示词解析——把我们输入的文字、图片、语音拆解成明确的任务要求，精准知道我们要什么、不要什么、要多长、是什么风格；第三步是生成输出——按照要求从知识库中检索对应内容，组装成符合要求的答案，经过合规检查后输出给我们。 理解这个工作流程，是学习所有AI安全知识最基础也最重要的一步：就像你要学会防小偷，得先知道家里的锁是怎么造的一样，只有知道AI是靠提示词驱动、靠训练数据获取知识、没有自主判断对错的能力，我们才能明白坏人会怎么利用它的弱点搞破坏——比如用精心设计的“坏提示词”骗它说出隐私信息、生成暴力不良内容，也能知道怎么正确地和AI相处，既用好它的能力帮我们学习，又不会被它的错误或者坏人的恶意利用伤害到。 现在你知道了吧？AI就像一个特别聪明但完全不懂“潜台词”、也没有是非判断能力的超级工具，工具本身没有对错，关键看用工具的人给它下什么指令。那如果有人故意给AI下“坏指令”，让它做伤害我们、伤害别人的事，会发生什么呢？这就是AI安全里的第一个大敌人——提示注入攻击。下一章我们就来认识这个敌人，看看坏人是怎么用提示词骗AI干坏事的，我们小朋友又该怎么握紧手里的“提示词魔法棒”，不被坏的指令坑到哦。