认识新朋友：什么是人工智能？

认识新朋友：什么是人工智能？

你家里的智能音箱会在你说"小爱同学"的时候亮起灯，家里的电视会根据你看过的节目推荐新的动画片，妈妈手机里的地图会告诉你哪条路不堵车，爸爸刷短视频时总能刷到自己喜欢的内容。这些"会听、会看、会想"的东西，背后都有一个共同的名字——人工智能（Artificial Intelligence，简称 AI）。可是，AI 究竟是什么？它是一种新的动物吗？是一台特殊的电脑吗？还是一个住在屏幕里的小精灵？

这一章，我们就来认识这位"新朋友"。我们会一起弄清楚三件大事：第一，AI 到底是个什么东西；第二，它是怎么"学会"本领的；第三，它很厉害，但是它也有"笨"的地方。等你读完这一章，你就会发现，AI 并不神秘，它就在我们身边，而我们要做的，是既和它做好朋友，也要学会保护自己。

AI 是什么？一台会"动脑筋"的电脑

想象一下，你面前放着一台普通的电脑。你按下键盘上的字母，它就把字母显示在屏幕上；你点一下鼠标，它就执行相应的命令。电脑非常听你的话，但是它本身不会"想"——你让它做什么，它就做什么，不会主动告诉你"今天应该带伞"或者"这道题可以用另一种方法做"。

那么，AI 和普通的电脑有什么不一样呢？让我们从一个真实的故事讲起。

会下棋的电脑"深蓝"

1997 年，一台叫做"深蓝"（Deep Blue）的电脑和当时世界上最厉害的国际象棋冠军——卡斯帕罗夫，进行了一场对决。结果，电脑赢了！这在当时引起了全世界的大讨论：电脑怎么能赢过人类呢？明明它只是一台机器呀。

其实，"深蓝"并不是真的"理解"了国际象棋。它不会像人一样坐在那里想一想："我应该把马跳到那里，因为这样可以吃掉对方的象。"它的做法是：把棋盘上所有可能的走法都"算"一遍——这次走这步，对手会怎么应对；对手那样走，我又可以怎么走……它可以在一秒钟内算出几百万种可能的走法，然后选出一种"赢面最大"的下法。

这告诉我们，AI 并不是像人一样"思考"，而是用一种很特别的方式去"算"和"找"。它能做的事情，人类不一定做得比它好；但是它做事情的方式，跟人类的大脑是不一样的。

AI 的三个"超能力"

科学家们通常说，AI 有三个很重要的能力，像三个超能力一样：

1. 感知（Perception）：AI 可以"看"（识别图片里的猫、狗、人脸），可以"听"（听懂你说的话），可以"感觉"（感受你按下的按键）。这就是为什么智能音箱能听懂你说"播放儿歌"。 2. 思考（Reasoning）：AI 可以在它"感知"到的东西里找规律、做判断。比如你给它看一万张猫的图片，它就能学会"哦，原来长这样的就是猫"。然后当你再给它看一张它没见过的猫的图片时，它也能认出那是猫。 3. 行动（Action）：AI 思考完之后，会做出一些反应——可能是回答你一句话，可能是控制一个机器人走路，也可能是帮你推荐一首歌。

我们可以用一个流程图来看 AI 是怎么工作的：

```mermaid flowchart TD A[感知输入] --> B[思考分析] B --> C[行动输出] C --> D[环境反馈] D --> B ```

这个图的意思是：AI 先"感知"周围的世界（看、听、读），然后"思考"和分析（找规律、做判断），接着"行动"（说话、控制设备、给出建议），最后它会观察行动的结果（环境反馈），用这个结果再去修正自己的"思考"。这就形成了一个循环，AI 就是通过这样一个又一个循环，慢慢变得更聪明的。

回到最开始的问题

现在我们可以说出一个比较准确的定义了：AI 是一种能像人一样感知、思考、行动的程序。它不像普通的程序只能执行固定的命令，而是可以根据不同的情况做出不同的反应，就像一个有"判断力"的助手一样。

不过，这里有一个重要的提醒：AI 的"感知"和"思考"，跟人类的感知和思考是不一样的。AI 没有真正的"眼睛"和"耳朵"，它处理的是数字；AI 也没有真正的"大脑"，它处理信息的方式更像是做大量的数学计算。所以我们说 AI 是"像人一样"，但其实它只是在某些方面表现得像人，并不是真的和人一样。

AI 是怎么"学会"本领的？小海豚学游泳的故事

你可能会问：AI 这么厉害，那它是怎么"学会"这些本领的呢？是工程师把所有的知识一条一条地"教"给它吗？比如，要让 AI 认识猫，是不是要工程师告诉它"猫有四条腿、有尾巴、会喵喵叫、有胡须"……

如果是这样，工程师的工作量就太大了。而且，世界上有那么多种猫、那么多东西，工程师根本不可能把所有的情况都列出来。那 AI 是怎么做到的呢？

让我们用一个故事来解释。

小海豚学游泳

想象一下，有一个海洋馆里的小海豚，它要学习怎么游泳。海洋馆的教练可以有两种方法教它：

方法一：手把手教

教练站在岸上，对小海豚说："你先把肚子朝上，然后把尾巴往左边摆，再把尾巴往右边摆……"教练把每一个动作都讲得很清楚，但是小海豚听了之后，可能还是不会游。因为游泳不是听口令就能学会的，需要自己练习。

方法二：自己练习 + 教练打分

教练换一种方法。他把小海豚放到水里，让它自己游。每游一次，教练就给它打个分——"这次游得好不好"。如果小海豚这次尾巴摆得对，教练就奖励它一条小鱼；如果摆得不对，就不给奖励。小海豚为了得到更多的小鱼，就慢慢地发现："哦，原来尾巴这样摆是对的，那样摆是错的。" 经过很多很多次练习，小海豚就学会了游泳。

第二种方法，就是 AI 学习的方法！它叫做机器学习（Machine Learning）。

机器学习是怎么工作的？

机器学习的过程，可以分成三步：

1. 给数据：我们给 AI 很多很多的例子。比如，要让它认识猫，我们就给它看一万张猫的图片，每张图片上都写着"这是猫"。这一步就像给小海豚很多练习的机会。 2. 找规律：AI 会自己从这些例子里"找规律"。它会注意到："嗯，这些图片里都有尖尖的耳朵、长长的胡须、圆圆的脸……所以这些特征组合起来，就是猫。"这一步就像小海豚自己总结"尾巴这样摆是对的"。 3. 做判断：当我们给 AI 一张它从来没见过的图片时，它就用自己找出的规律去判断："这张图片里有尖耳朵、有胡须、有圆脸，所以这应该是一只猫。"这一步就像小海豚学会了游泳，可以在新的环境里游得很好了。

这里有一个关键点：AI 找出的规律，我们人类有时候是看不太懂的。它可能发现"如果一张图里的某个区域的颜色是某种特定的 RGB 值（红绿蓝的数值），那么这就是猫"，但是它不会像人一样说"因为它有尖耳朵所以是猫"。它学到的"规律"，是一种数学上的关系，而不是人类能直接理解的"道理"。

小海豚故事给我们的启发

小海豚学游泳的故事告诉我们三件事：

1. AI 不是被"教"会的，是被"练"会的。给它很多例子，让它自己找规律。 2. AI 学到的东西，取决于我们给它什么例子。如果我们给它看的大部分是橘色的猫，它可能就以为猫都是橘色的，遇到白色的猫就认不出来了。 3. AI 学得越多，就越厉害。就像小海豚练习得越多，游泳就越好一样。AI 看的例子越多，识别得就越准。

这就是为什么训练一个好的 AI 需要很多很多的数据——图片、文字、声音、视频。这些数据就像是小海豚练习游泳的"机会"，机会越多，AI 就越聪明。

AI 能做什么？看、听、说、想，无所不能？

AI 看起来好像什么都会，它能做的事情远远超过我们的想象。让我们一个一个来看。

AI 的"眼睛"：图像识别

你可能用过这样的功能：拍照的时候，相机会自动识别出画面里有没有人脸，然后把人脸对焦清楚；或者你把一张照片发给爸爸妈妈，告诉他们"这是小狗"，其实你什么都没说，手机就自动帮你加上了"小狗"这个标签。这就是 AI 的"图像识别"能力。

AI 的"眼睛"可以做到很多厉害的事情：

• **人脸识别**：在人群中认出某个人。这项技术被用在手机解锁（看看你能不能解锁爸爸妈妈的手机）、车站安检（看看进站的人是不是在逃的坏人）、动物园入口（看看你是不是办了年卡的会员）。
• **医学影像识别**：帮助医生看 X 光片、CT 片，找出里面的异常。这就像给医生装了一个"超级放大镜"，让他们能更早、更准确地发现疾病。
• **自动驾驶**：汽车上的摄像头会"看"前方的路，识别出行人、红绿灯、其他车辆，然后决定是加速、刹车还是转弯。
• **拍照美化**：自动给照片加上滤镜、调亮、调清晰，让你的照片看起来更漂亮。

但是 AI 的"眼睛"也会犯错。比如，它可能把一个长得像猫的毛绒玩具认成真的猫；或者在光线很暗的时候，它看不清东西，就容易认错；甚至有时候它会把一张图里的猫认成狗，或者把一盘红烧肉认成一块红石头。这些都是 AI 的"眼睛"还不够完美的例子。

AI 的"耳朵"：语音识别

AI 的"耳朵"也很厉害。它可以听懂你说的话，把你说的话变成文字。这就是为什么你可以对着手机说"播放儿歌"，手机就会给你放儿歌；你也可以对着智能音箱说"明天天气怎么样"，它就会告诉你明天的天气。

AI 的"耳朵"能做的事情包括：

• **语音转文字**：把你说的话变成文字，比如录音转写、字幕生成。
• **说话人识别**：通过声音判断说话的人是谁，就像你能从电话里听出是妈妈在说话一样。
• **声音分类**：识别声音的种类，比如是狗叫、是小提琴、还是汽车喇叭。
• **声纹识别**：通过声音判断一个人的身份。这项技术被用在一些手机银行 App 里——你说话的方式就是你的"密码"。

AI 的"耳朵"也会犯错。比如，当你说"我去学校"的时候，它可能听成"我去雪地"；当你说方言（比如说四川话、粤语）的时候，AI 可能就听不懂；当你周围很吵的时候（比如在食堂里），AI 也会听错。所以我们跟智能音箱说话的时候，要尽量说慢一点、清楚一点。

AI 的"嘴巴"：语音合成和写作

AI 不仅能听懂我们说话，它还能"说话"！这就是语音合成技术。Siri 跟你说话的声音、地图导航播报"前方 500 米左转"的声音、有声书里讲述故事的声音，很多都是由 AI 合成的。

更有趣的是，现在的 AI 还可以写作。它可以根据你给它的题目，写出一篇作文、一首小诗、一个故事。这就是我们在后面章节要详细讲的"大语言模型"的本领。

AI 的"嘴巴"也会出问题。有时候它念错字（特别是一些不常见的名字、地名），有时候它的语气听起来怪怪的（比如该用问句的地方用了陈述句的语气），有时候它会读出一些莫名其妙的符号。所以我们听 AI 念书的时候，要自己留个心眼，看看它读得对不对。

AI 的"大脑"：思考和推理

最厉害的，是 AI 还能"思考"。它可以做一些需要动脑筋的事情，比如：

• **下棋**：像我们前面讲的"深蓝"电脑，可以下国际象棋。
• **数学题**：解方程、做几何题。
• **翻译**：把中文翻译成英文，把英文翻译成日文。
• **推荐**：根据你过去看过什么、买过什么、听过什么，给你推荐新的东西。
• **规划**：帮你规划一条去公园的路线，告诉你坐哪路公交车、换乘哪路地铁。
• **创作**：写歌、写诗、写故事。

但是，AI 的"思考"和人的思考是不一样的。AI 不像人那样有"灵感"，它做的事情更像是从大量的数据里找答案。所以有时候它会"一本正经地胡说八道"——给你一个看起来很对、其实是错误的答案。这种情况在 AI 领域里有个专门的名字，叫做"幻觉"（Hallucination）。我们在后面的章节会详细讲这个问题。

AI 也能"看"得很多：其他能力

除了上面这些，AI 还有一些很酷的能力：

• **理解视频**：它可以看一段视频，告诉你视频里发生了什么事情。
• **玩复杂的游戏**：比如围棋、电子游戏。2016 年，AI 程序 AlphaGo 战胜了世界冠军围棋选手柯洁，那场比赛让全世界都震惊了。
• **预测天气**：根据大量的气象数据，预测明天的天气、这个夏天的台风路径。
• **预测疾病**：根据一个人的基因、病历、生活习惯，预测他将来可能得什么病。
• **控制机器人**：让机器人在工厂里搬货，在家里扫地，在火星上探险。

可以看出来，AI 几乎已经渗透到了我们生活的方方面面。但是，无论 AI 多厉害，它都有一个非常重要的事情——它也会犯错误。这一点，我们接下来要好好讲讲。

AI 也有"笨"的时候：AI 朋友小艾的故事

讲了 AI 这么多厉害的地方，你是不是觉得 AI 简直是个超级英雄？但是，我要告诉你，AI 也会犯错，而且它犯的错有时候还挺可笑的。让我们通过一个故事来认识一下这位"会犯错的朋友"。

AI 朋友小艾

小明有一个 AI 朋友，名叫小艾。小艾是爸爸妈妈给他买的智能音箱。小艾可以回答小明的各种问题，可以陪他聊天，可以给他讲故事、播儿歌。小明非常喜欢小艾，觉得它是世界上最好的"朋友"。

有一天，小明问小艾："小艾小艾，什么水果是紫色的？"

小艾立刻回答："葡萄是紫色的。" ——这个回答是对的。

小明又问："那什么水果是蓝色的？"

小艾说："蓝莓是蓝色的。" ——这个也是对的。

小明接着问："那什么水果是方形的？"

小艾说："西瓜是方形的。" ——啊？这下可错了。西瓜是圆的不是方的。

小明哈哈大笑："小艾你真笨，西瓜明明是圆的！"

小艾说："对不起，我可能回答得不够准确。请问还有什么可以帮您？"

小明的妈妈在旁边听见了，过来跟小明说："你看，AI 并不是什么都知道的。它只是根据它见过的数据来回答问题。如果它见过的人说过'西瓜是方形的'（比如在一本不太严谨的儿童书里），它就可能把错误的答案当成对的。所以我们不能什么都相信 AI，要自己动脑筋想一想。"

AI 为什么会犯错？

AI 犯错的原因有很多，让我们一个一个来看。

1. 训练数据有问题：AI 学到的东西是从数据里来的。如果数据本身是错的，AI 学到的就是错的。比如，如果给 AI 看的"西瓜图片"里有一半是方的（可能是被切的西瓜），它就可能以为西瓜是方的。 2. 没见过的情况：AI 在训练的时候没见过某种情况，它就不知道该怎么办。比如，AI 训练的时候只见过夏天，那么它可能就不知道冬天是什么样子。 3. 缺乏常识：人类有很多常识，比如"人不能飞"、"水往低处流"、"西瓜是圆的"。这些常识我们不用专门学就知道，但是 AI 不一定知道。它需要有人告诉它，或者从大量的数据里自己总结。 4. 容易被骗：研究者发现，AI 很容易被一些奇怪的图片骗到。比如，有一张图片看起来明明是一只猫，但是只要在上面加一点点肉眼几乎看不见的"小点点"，AI 就会以为这是一张其他东西的图片。这种"小点点"在 AI 领域里叫做"对抗样本"。 5. 一本正经地胡说：现在的 AI（特别是大语言模型）有时候会"自信地"说出一些听起来很像回事、但是完全错误的话。这就是前面说的"幻觉"问题。比如你问它"世界上最高的山是哪座"，它可能会说"是珠穆朗玛峰"，这个是对的；但是你问它"我爷爷 1920 年出生的时候，世界上第一台电脑发明了吗"，它可能会给出一个听起来很专业、但是完全编造的答案。

缺乏常识：一个有趣的小测试

让我们来玩一个测试，看看 AI 有多缺乏常识。你可以把这个测试拿去问家里的小爱同学、Siri，或者其他 AI：

> 问题：我有一只猫，它每天都吃鱼。昨天它吃了三条鱼，今天它吃了三条鱼。请问这只猫叫什么名字？

正确答案：这个问题里没有任何信息告诉我们猫叫什么名字，所以答案是"不知道"。

AI 的回答：很多 AI 可能会说"它叫汤姆"、"它叫小白"或者"它叫 Kitty"。这些名字都是 AI 自己编出来的，不是真的。这就是 AI 缺乏常识的例子——人类一看就知道"题目里没说猫叫什么名字"，但是 AI 不一定知道，它会忍不住"编"一个答案。

另一个测试

> 问题：把大象放进冰箱需要几步？

正确答案：三步。第一步：把冰箱门打开。第二步：把大象放进去。第三步：把冰箱门关上。

AI 的回答：大部分 AI 应该都能答对这个问题。但是如果把问题改一下：

> 问题：把长颈鹿放进冰箱需要几步？

AI 的回答：很多 AI 还是会说"三步"。但是实际上，因为大象已经占满了整个冰箱（在我们想象的画面里），长颈鹿是放不进去的。所以正确的答案应该是"放不进去，因为冰箱里已经有大象了"。这说明 AI 不一定真的会"思考"，它只是根据它见过的相似问题（比如"把大象放进冰箱"）来回答，所以它可能没注意到"长颈鹿"和"大象"的区别。

AI 缺乏常识的原因

为什么 AI 这么缺乏常识呢？主要有两个原因：

1. 常识太"常识"了，没人专门去教它。我们人类觉得理所当然的事情，比如"人只有一个脑袋"、"太阳从东边升起"、"水会结冰"，这些知识太"基础"了，以至于没有人专门写下来给 AI 看。但是，AI 恰恰需要这些"基础"知识才能做出正确的判断。 2. 常识太多了，AI 记不住。世界上有无数的常识，几百万条、几亿条、几万亿条。AI 不可能记住所有的常识。即使它记住了 99.99%，只要漏掉那 0.01%，它就可能在某个问题上犯错。

AI 会被骗：一个真实的实验

曾经有研究者做过一个有趣的实验。他们训练了一个 AI 来识别图片里的"猪"。然后，他们做了一些看起来很像猪、但是其实不是猪的图片，结果 AI 都会识别为"猪"。

更有趣的是，他们又做了另一些图片，看起来明明不是猪（比如是一架飞机），但是他们在图片上加了一些奇怪的"小点点"（在计算机领域里叫"对抗扰动"），结果 AI 就会把这架飞机错误地识别为"猪"。

这个实验告诉我们，AI 看到的"世界"和人类看到的"世界"是不一样的。人类一眼就能看出那是一架飞机，AI 却可能因为一些肉眼几乎看不见的"小点点"而误判。这种"被骗"的问题，在 AI 安全领域里是非常重要的一个话题，我们在后面的章节会详细讲。

回到小艾的故事

小明的妈妈说得对：AI 并不是什么都知道的，它会犯错，会被骗，会缺乏常识。但是，这并不代表 AI 没用。AI 就像一把锤子——你可以用它来钉钉子、敲钉子、做很多有用的事情，但是它也可能砸到你的手指。关键在于，我们要学会正确地使用它。

小明后来学到了很多和小艾相处的方法：

• **不要什么都相信**：小艾说的每一句话，小明都会自己再想一想，看看对不对。
• **重要的决定不要让小艾做**：比如考试的时候不能问小艾答案，过马路的时候要听交警叔叔的话，不能听 AI 的。
• **发现小艾说错了要告诉它**：虽然小艾不会真的"记住"（除非这个错误被工程师修复了），但是告诉爸爸妈妈也是一个好办法。
• **保护自己的隐私**：不告诉小艾自己的真实姓名、家庭住址、学校名称、爸爸妈妈的电话等。

小明和小艾