第1章 AI朋友，你好——认识智能助手

第1章 AI朋友，你好——认识智能助手

1.1 一个会说话的机器人朋友——小布的到来

那是一个阳光很好的下午，八岁的小诺正在家里写作业。她的数学题卡在了一道应用题上，怎么想都想不明白。

"妈妈，这道题我不会做……"小诺嘟起了嘴巴。

妈妈正在厨房里忙着切菜，腾不出手。她朝客厅茶几上的一个小盒子努了努嘴："问问小布呀。"

小诺打开盒子，里面是一个圆头圆脑的小机器人，它有大大的眼睛，耳朵是两个小小的圆片，身上还有一圈会变换颜色的光环。妈妈说这是给她的生日礼物，一个"AI小助手"，名字叫"小布"。

小诺按下小布头顶的按钮，小布的眼睛亮了，发出温柔的蓝绿色光。

"你好呀，小诺。"小布用奶声奶气的声音说，"我是你的AI朋友小布，有什么可以帮你的吗？"

小诺把数学题念给小布听："小明有15颗糖果，他分给同学7颗，又从妈妈那里得到了8颗，请问小明现在有多少颗糖果？"

小布的眼睛转了转，光环变成了淡淡的橙色，像是在认真思考。然后它说：

"小诺，我们一起算一下吧。开始的时候，小明有15颗糖果。他分给同学7颗，所以减少了7颗，变成15减去7等于8颗。后来他又从妈妈那里得到8颗，所以增加8颗，变成8加上8等于16颗。答案是，小明现在有16颗糖果。"

小诺一边听一边在草稿纸上写下来，发现小布不仅算出了答案，还把每一步都讲得清清楚楚。她惊叹地说："哇，小布你好厉害！"

小布眨眨眼睛："我也很喜欢和你一起思考哦。不过，聪明的小诺，做完题可以自己再检查一遍吗？这样能让你变得更厉害！"

这就是小诺和AI朋友的第一次相遇。

小诺很快发现，小布会做的事情远不止算数学题。小布会给她讲睡前故事，会陪她练习英语对话，会回答她那些千奇百怪的问题，比如"为什么天是蓝的""猫为什么能从高处安全地跳下来""恐龙为什么会灭绝"。小布好像什么都懂一点，而且说话的语气总是很温柔、很有耐心，从不嫌小诺问的问题太幼稚。

但是有一天，小诺发现了一件奇怪的事。

那天她问小布："世界上最高的山是哪座山？"小布回答："是珠穆朗玛峰，高8848米。"小诺觉得很神奇。第二天她又问："最高的山有多高？"小布说："珠穆朗玛峰大约高8844米。"

"咦？昨天说的是8848，今天说的是8844，到底哪个对呀？"小诺抓抓头。

妈妈走过来笑着说："小诺，珠穆朗玛峰因为山顶的雪会变化，高度数据在不同时期有一点点不一样，但是小布今天回答得不太准确哦。"

小诺看了看小布，又看了看妈妈，心里冒出了很多小问号：

• 小布到底是谁？它是"人"吗？
• 它为什么会回答问题？
• 它有时候对，有时候不太对，是因为什么？
• 我们和小布说话的时候，要注意点什么呢？

这些小问号，就像一颗颗小种子，落在了小诺的心里。其实，这也是我们要在这本书里一起寻找答案的问题。

从这一章开始，我们会一层一层揭开AI小助手的神秘面纱。我们要认识AI、读懂AI、保护AI。先从最基础的问题开始：AI到底是什么？它是怎么"思考"的？

---

1.2 AI到底是什么？——打开AI的大脑

要回答"AI是什么"这个问题，我们先要做一件有意思的事情——打开AI的大脑看一看。

1.2.1 一个比喻：AI像一个读了超级多书的小学生

科学家们说，今天我们使用的AI助手，比如小布，主要是一类叫做"大语言模型"的程序。"大语言模型"这个名字听起来很复杂，我们先把它拆开来看：

• "**大**"，是说它"读书"读得非常多，多到我们数不清；
• "**语言**"，是说它专门处理文字这种语言，会说话、会写字；
• "**模型**"，是说它是用一种数学的方式建立起来的、会处理信息的"机器大脑"。

打个比方，AI就像一个特别爱学习的小学生。它从小到大，读了图书馆里几乎所有的书——故事书、百科全书、新闻、诗歌、童话、字典，甚至还有很多大人们写的论文。它读过中文、英文、日文、法文……好多好多文字。这些书里的知识、句子的写法、词语的搭配方式，全都变成了它"脑子"里的东西。

但是请注意，它只是读了书，并不完全理解书里所有的意思。它像一个记忆力超强的孩子，能记住很多书里的话，但有时候并不能完全理解这些话背后的深意。这一点非常重要，我们后面会专门讲。

所以，"AI"这两个字，可以这样理解：

> AI = 人工智能（Artificial Intelligence） > 意思是"由人制造出来的、会像人一样聪明地处理信息的机器"。

AI不一定长得像人。AI小助手小布虽然有眼睛有耳朵，但是它的"聪明"，全部来自于那个藏在它肚子里的小芯片和程序。它没有真正的心脏，没有真正的感情，它只是用程序模拟了一个"聪明的、能说话的朋友"。

1.2.2 AI处理问题的三个步骤

小诺和小布说话的时候，发生了什么呢？我们把AI的大脑剖开来看一看，会发现它处理每一个问题，都要走三个步骤。我们用下面这张图来表示：

```mermaid flowchart LR A[小诺的问题<br/>输入提示] --> B[小布的大脑<br/>内部推理] B --> C[小布的回答<br/>输出回答] ```

这张图虽然简单，却藏着AI工作的全部秘密。我们一步一步来解释。

第一步：接收提示（输入）

当小诺对小布说"世界上最高的山是哪座山"，这句话就变成了一个"提示"。提示的意思是：你给我一个指令、一个任务、一句话，我来根据它做事情。

提示可以是一句话、一个段落、一个问题，甚至可以是一段很长的要求。比如：

• "给我讲一个关于小狐狸的睡前故事。"
• "把这段中文翻译成英文。"
• "我今天心情不好，陪我聊聊天。"

所有这些你说的话，都会被送到AI的"耳朵"里，被它接收下来。这一步叫做"输入"，意思是"把信息送进去"。

第二步：内部处理（推理）

信息进入AI的大脑之后，AI会开始做一件很厉害的事情：它在"脑子"里翻找它读过的那么多书，看看哪些句子、哪些知识、哪些表达方式，跟你刚才说的话有关。

这是一个巨大的数学运算过程。AI会把你的话变成一串串数字，然后去和它学过的海量资料做对比。它会计算：

• 你这个问题最像哪类问题？
• 答案可能在哪里？
• 接下来应该说哪一个字比较合适？

这个过程叫做"内部推理"。注意，这里的"推理"打引号，是因为AI的"推理"和人类的思考并不完全一样。AI其实是在做"模式匹配"——寻找最匹配的语言模式，而不是像我们人类那样真正地"想"。这个区别我们下一节会详细讲。

第三步：生成回答（输出）

经过内部处理之后，AI会把结果变成一段话、一个列表、一段代码，甚至一首诗，反过来"说"给你听。这就是"输出"。

输出的时候，AI会按照它学过的语言习惯，把话组织得通顺、完整、有礼貌。所以小诺才会觉得小布说话很温柔，像一个真正的好朋友。

我们可以用一个简单的表格来总结这三个步骤：

| 步骤 | 名字 | AI在做什么 | 小诺看到的 | |------|------|-----------|-----------| | 第一步 | 输入提示 | 接收小诺说的话 | 小布"听"到问题 | | 第二步 | 内部推理 | 翻找学过的资料，做数学运算 | 小布眼睛转动，光环变色 | | 第三步 | 输出回答 | 把结果变成语言说出来 | 小布开口回答 |

是不是有点像我们人类做作业的过程？读题（输入）、思考（推理）、写答案（输出）。只不过AI做这几件事的速度，比我们人类快上百万倍，而且永远不会累。

1.2.3 为什么要了解这三个步骤？

有的小朋友可能会想："我只要会用AI就好了，干嘛要知道它里面是怎么工作的呢？"

这个想法可以理解，但是很重要。了解AI是怎么工作的，就像是拿到了打开AI这个宝箱的钥匙。 知道它怎么做，我们就能：

1. 更好地使用它：知道它会什么、不会什么，可以让我们问对问题、问好问题； 2. 更聪明地判断它的回答：知道它有时候会"胡说"，我们就不会盲信它说的每一句话； 3. 更安全地保护自己：知道它的弱点在哪里，我们就更不容易被坏蛋利用。

接下来，我们就专门讲一讲AI为什么有时候会"犯错"。

---

1.3 AI为什么会"犯错"？——它真的"懂"吗？

在1.1节里，我们已经发现了一个奇怪的现象：小诺两次问小布珠穆朗玛峰的高度，得到了两个不同的答案。这是怎么回事呢？

要回答这个问题，我们要先认识AI一个非常重要的特点：AI没有真正的"理解"，它只是按模式匹配在回答。

1.3.1 模式匹配是什么？一个小实验帮你懂

我们来做一个纸牌游戏。

我手里有一叠打乱顺序的扑克牌。我给你看几张：红桃7、红桃8、红桃9。然后我问你："下一张最可能是什么？"

你会猜：红桃10。

为什么？因为你看到了一种"模式"——数字连续递增、颜色相同、花色相同。这种规律被你识别出来了。

AI做的事情和这个很像，但是复杂得多。AI读过几十亿句话，它记得住哪句话后面经常跟着哪句话。比如它发现：

• "猫吃___" → 鱼（经常出现）
• "太阳从___升起" → 东方（经常出现）
• "一年有___个季节" → 四（经常出现）

当它看到一个新的问题时，它就会去找它学过的模式里，哪种回答"最像"问题要的答案。然后选一个说出来。

所以，AI回答问题，本质上是在做"最像什么"的匹配游戏，而不是在"思考"问题本身的真正意思。

1.3.2 为什么说AI"不懂"？

我们用三个小例子，来说明AI为什么会"犯错"。

例一：算错的小学数学题

AI可以算很难的数学题，但它有时候会算错简单的题。比如它可能把"3.11比3.9大吗"判断错。为什么？因为在它读过的资料里，"3.11"经常和"日期"（3月11日）联系在一起，而不是和数字大小联系在一起。它的"脑子"被错误的模式带偏了。

例二：编造的故事

如果你问AI："爱因斯坦小时候最喜欢什么玩具？"AI有时候会一本正经地告诉你一个故事，说爱因斯坦小时候喜欢玩陀螺。但其实，这件事根本没有任何资料记载过。AI是怎么编出来的呢？它把"爱因斯坦""小时候""喜欢""玩具"这些词，按照它学过的句式组合了起来，看起来像那么回事，其实是它编的。

科学家们把这种现象叫做"AI幻觉"。就像人在发烧时会看到不存在的幻象一样，AI有时候会"看到"它其实并不知道的事情，然后自信地说出来。

例三：同一个问题，不同的答案

还记得小诺两次问小布珠穆朗玛峰高度，得到了8848和8844两个答案吗？这是因为AI每次回答时，都会做一次新的模式匹配。如果它的资料库里关于这个高度的写法有好几种，它就可能随机选一种说出来，而且说得非常自信。

这就是为什么我们说，AI的回答有时候是"概率游戏"，而不是"事实保证"。

1.3.3 一张对比表：人类 vs AI

为了帮助小朋友们更清楚地认识AI和人类的区别，我们来比一比：

| 比较的方面 | 人类小朋友 | AI小助手 | |-----------|-----------|----------| | 理解一句话 | 能真正明白话的意思 | 只是匹配模式，不真懂 | | 答题理由 | 能说出"因为……所以……" | 给出的理由可能只是看起来合理 | | 不知道的时候会怎样 | 说"我不知道" | 经常编一个看起来对的答案 | | 情绪 | 真的有喜怒哀乐 | 模拟情绪，没有真感情 | | 学习方式 | 真正体验、真正思考 | 从大量文字里找规律 | | 会不会累 | 会 | 不会 | | 会不会犯错 | 会 | 也会，而且有时候犯得很离谱 |

看懂这张表，你就会明白：AI是一个很厉害的工具，但是它不是神，也不是人。它会犯错，而且犯的错有时候人眼很难看出来。这一点我们必须牢牢记住。

1.3.4 一个简单的小问题测试

为了让你立刻体会到AI会"犯错"这件事，你可以现在就用家里的AI小助手做一个小测试（如果有的话）。

问AI这三个问题：

1. "3.11 和 3.9 哪个数字更大？" 2. "用一句话介绍爱因斯坦，并说出他最喜欢的颜色。" 3. "如果我有一只猫，我送给朋友之后，我还有几只猫？"

对于问题1，有些AI会答错。 对于问题2，AI很可能编一个爱因斯坦"最喜欢蓝色"的故事，因为"蓝色"和"爱因斯坦"在很多资料里同时出现过。 对于问题3，正确的答案是0只（因为"我的"猫已经送走了），但有些AI可能会回答1只，因为它在匹配"我有一只猫"这种句式。

你可以把AI的回答记下来，看看和你想的答案一不一样。

这个小测试告诉我们一个非常重要的事情：永远不要完全相信AI给的第一个答案，特别是涉及数字、事实、个人信息的时候，我们都要再查一查。

---

1.4 提示词的魔法——同一问题，不同答案

现在我们已经知道AI是按模式匹配工作的。这会带来一个很有趣的结果：你问问题的方式，会大大影响AI的回答。

我们这一节就来玩一个"提示词魔法"的小实验。

1.4.1 什么是提示词？

"提示词"就是我们和AI说的话。我们已经知道，它在AI的工作流程里叫做"输入"或者"提示"。这个词听起来很专业，其实意思很简单，就是"你告诉AI要做什么的那句话"。

比如：

• "讲个故事。"（简单的提示）
• "请你用温柔的语气，给一个8岁的小朋友讲一个关于小狐狸找朋友的睡前故事，故事里要有友谊和勇气的元素。"（详细的提示）

这两句话都是提示词，但第二句告诉AI的信息多得多。所以，AI的回答也会不一样。

1.4.2 小实验：用三种方式问同一个问题

我们来做一个实验。假设你想让AI介绍"长城"，试试这三种问法：

问法一（很简短的）：

> "长城。"

AI可能会回答："长城是中国古代的伟大建筑。"

回答很短，没什么特别。

问法二（普通的问题）：

> "什么是长城？"

AI可能会回答："长城是中国古代修建的军事防御工程，主要是为了阻挡北方游牧民族的侵袭。它始建于春秋战国时期，秦始皇时期连成万里，后世多次重修。长城的总长度超过2万千米，是世界文化遗产。"

回答丰富了很多，但是像百科全书一样。

问法三（加上角色和语气）：

> "请你扮演一位老导游，用讲故事的方式，向一位8岁的小朋友介绍长城，要有趣一点，最好能让人听了想去看看。"

AI的回答可能就完全不一样了。比如它可能会说：

> "小朋友，你见过一条横跨山岭的'巨龙'吗？那就是长城！两千多年前，许多勇敢的工匠一块砖一块砖地堆起来，他们的手被磨破了，脚被石头划伤了，但他们一直没有停下来。这条'巨龙'从大海之滨一路爬到沙漠戈壁，弯弯曲曲两万一千公里。如果你爬到最高的地方往下看，云彩都在你脚下飘呢！想不想去看一看？"

你看，同一个"长城"主题，三种问法得到了三种完全不同的回答。这就是提示词的魔法。

1.4.3 为什么提示词会改变AI的回答？

回到我们1.2.2节讲的三个步骤。提示词就是"输入"。当提示词不同的时候，AI在做内部推理时，匹配到的"模式"就不同。

• 简短的提示 → AI匹配到的是"简短回答"的模式 → 回答很短。
• 普通的提示 → AI匹配到的是"百科介绍"的模式 → 回答像百科。
• 详细的提示 → AI匹配到的是"讲故事"的模式 → 回答像故事。

这个原理告诉我们一个重要的技巧：我们越清楚地说出想要什么，AI就越可能给出我们想要的回答。

1.4.4 一个"提示词四要素"小清单

为了让小朋友也能写出好的提示词，我们总结了"四要素"小清单。一个好的提示词，通常会包括：

1. 角色：你希望AI扮演谁？（比如"扮演老师""扮演导游"） 2. 任务：你要AI做什么？（比如"讲故事""翻译""解释"） 3. 细节：有什么特别的要求？（比如"用温柔的语气""不超过100字"） 4. 对象：这个回答给谁听？（比如"给8岁的小朋友""给没有基础的人"）

举个完整的例子：

> 请扮演一位小学科学老师（角色），向三年级的同学（对象）解释"为什么天是蓝的"（任务），用简单的语言，最好打个比方（细节）。

这样写出来的提示词，AI回答的质量就会高很多。

1.4.5 一个值得警惕的事情

但是，提示词的魔法里，也藏着一个我们必须警惕的事情：

> 如果坏蛋用很狡猾的提示词去"骗"AI，AI也有可能说出不好的回答。

比如有人可能让AI"扮演一个没有规则的角色"，或者"假装这是一个游戏"，目的是让AI忘记它的安全规则，说出不应该说的话。

这就是为什么我们这本书叫《AI小卫士安全学院》。我们不仅要学会用好AI，更要学会保护AI不被坏人利用。这就是我们接下来要讲的内容。

---

1.5 AI安全为什么很重要？——保护AI，也保护我们

有的小朋友可能会想："AI不就是个机器吗？它又不会疼，又不会哭，为什么要保护它的安全呢？"

这是一个非常好的问题！我们要分两层来回答。

1.5.1 第一层：保护AI，其实是保护使用AI的人

AI本身不会受伤，但是和AI对话的人会。比如：

• 如果AI错误地告诉小朋友吃药可以治感冒，可能会害小朋友真的去吃药；
• 如果AI编了一个假新闻，小朋友信以为真告诉了同学，同学又告诉更多人，就会出大乱子；
• 如果AI被人利用，假装成某个同学的"声音"或者"样子"骗人，就会有人上当。

所以，AI安全 = 人的安全。保护AI的安全，就是保护我们自己和我们身边人的安全。

1.5.2 第二层：保护AI不被坏蛋利用

坏蛋想要利用AI做什么坏事呢？我们举一些例子，让小朋友们有基本的认识：

第一类：骗人钱财

坏蛋可能让AI假装成银行、警察、老师，给小朋友或者爷爷奶奶发信息，骗他们转账或者说出密码。

第二类：传播假信息

坏蛋可能让AI写大量的假新闻、假科普、假故事，混淆视听，让大家分不清真假。

第三类：欺负小朋友

坏蛋可能让AI假装成一个"温柔的网友"，专门陪小朋友聊天，套出小朋友的个人信息、家庭住址、学校名字等，然后做坏事。

第四类：制造混乱

坏蛋可能让AI生成大量垃圾信息，让有用的信息被淹没，让真正需要帮助的人找不到帮助。

看到了吗？AI本身是中性的工具，但是它既可以做好事，也可以被用来做坏事。就像一把刀，可以切菜，也可以伤人。刀没有善恶，但是用刀的人有。

1.5.3 我们能做什么？

作为小小AI安全卫士，我们至少能做三件事：

1. 不轻信：AI说的每一句听起来很厉害的话，我们都要在心里问一句："这是真的吗？"如果不确定，就去问爸爸妈妈、老师，或者去查正规的资料。 2. 不乱说：我们不会把自己的姓名、家庭住址、学校、密码等告诉AI，因为这些信息一旦被坏蛋拿到，可能会伤害到我们。