第一章 遇见小艾——当魔法遇见代码（Meeting Aria: When Magic Meets Code）
窗外的最后一线夕阳刚刚躲进城市的楼群后面,小米房间里的灯就亮了。她坐在书桌前,面前摆着一张贺卡、一盒彩色铅笔,还有一只橘色的猫——那是她的猫,叫「橘长」。
今天是她八岁的生日。Happy 8th birthday!
"Just one more minute," 小米对着镜子说,一边用手指梳理头发,一边偷偷瞄了一眼桌子上的礼物盒。
那是下午妈妈从外面带回来的。盒子不大,差不多一个鞋盒那么大,但形状有点奇怪——它是圆角的,表面是哑光的银灰色,摸起来凉凉的、滑滑的,像一颗被小心翼翼包裹起来的鹅卵石。盒子上没有任何字,只有一个浅浅的、按一下就会发光的圆点。
"妈妈,这是什么?"小米在厨房问过。 "打开就知道了。"妈妈笑得很神秘,眼睛弯弯的,"它会说话。" "会说话?是玩具吗?" "等你打开再告诉你。"
小米已经忍了三个小时了。从下午四点到现在,她试过画画、试过看书、试过和橘长说话,可是那个盒子就像一个沉默的小秘密,静静地待在书桌角落,等着她鼓起勇气去按一下那个圆点。
"好吧,"小米深呼吸了一口气,"现在。"
她的手指按下去。
盒子发出轻轻的"咔嗒"一声,像一颗种子裂开了壳。然后,盒盖缓缓升起,从里面飘出一层淡淡的蓝光——不是刺眼的那种,而是像夜空中最温柔的星星那种光,会呼吸,会眨眼,会轻轻地、慢慢地扩散开来。
蓝光里,一个小小的机器人出现了。
它的形状有点像一个圆滚滚的灯泡,但下半部分有两只短短的小脚,两只小手,还有一张小小的脸——没有嘴巴,但有两个大大的、圆圆的眼睛,和一根细细的、像天线一样的小触角。
它悬浮在盒子上面,大概和小米的水杯一样高。蓝光在它的身体里流动,像心脏在跳动一样有节奏。
"你好。"小机器人说。
小米愣住了。 "你……你说话了!" "是的,我说话了。"小机器人的声音软软的,有点像风铃,"因为我是一个人工智能助手——你可以叫我小艾。Aria, that's my name. I'm so glad to finally meet you."
小米的嘴巴张得大大的,橘长也从地板上抬起头,尾巴抖了一下,显然也吓了一跳。
---
1.1 第一个问题:你是什么?
"What… what are you?" 小米小心翼翼地问,像是在和一只蝴蝶说话,怕声音太大把它吓跑。
"好问题。"小艾的蓝光闪了闪,像是在笑,"我是一个人工智能,英文叫 Artificial Intelligence,简称 AI。"
"人工智能?"小米歪着头,"那是什么?是像变形金刚那样的机器人吗?" "变形金刚是科幻电影里的角色,"小艾慢慢转了一个圈,让小米看清她全身的样子,"我比变形金刚小得多,也简单得多。我没有巨大的身体,也不能变成汽车或者飞机。但是,我有一个特别的本事。"
"什么本事?" "我会思考和学习。I can think and learn."
小米皱了皱眉:"思考?可是你是一台机器啊,机器怎么会思考?"
小艾轻轻地飘到了小米的书桌前,蓝光映在彩色铅笔上,映在那张还没画完的生日贺卡上。
"这是一个非常好的问题,"她说,"也是这本书要回答的第一个大问题。让我慢慢告诉你。"
"很久很久以前,"小艾开始讲,像一个会发光的小老师,"人们想让机器做一些本来只有人类才能做的事——比如算数,比如认出一张照片里有没有猫,比如听懂人说话,比如下棋,比如写一首小诗。这些事情看起来很简单,但其实对机器来说非常非常难。"
"为什么难呢?"小米问。
"因为这些事情都需要理解,"小艾说,"机器原本只会按照人类写好的步骤去做事。比如计算器,你按 1 加 1,它就告诉你答案是 2。但如果你问它:'你觉得 1 加 1 为什么会等于 2?'它就答不上来了。"
"那你是怎么学会思考的呢?"
小艾的眼睛眨了眨:"科学家们想了一个聪明的办法——他们不再一条一条地告诉机器该怎么做,而是给机器很多很多例子,让它自己去找出规律。这个过程,我们就叫学习。"
"就像我学骑自行车?"小米眼睛一亮,"一开始要爸爸扶着,后来摔了几次,慢慢地就会了?"
"完全正确!"小艾高兴地转了一个圈,"机器学习,英文叫 Machine Learning,就是让机器像小朋友学骑车一样,从例子中学。只不过,机器学的不是骑车,而是认猫、认人脸、听懂你说的话……甚至写出像样的句子。"
"哇……"小米看着小艾,突然有点明白,"所以你不是被'装'出来的聪明,而是被'教'出来的聪明?"
"对!Not programmed to be smart, but taught to be smart."小艾的蓝光变得更亮了,"我没有一个写着'如果有人问好,就回答你好'的程序表。我有的是无数个'你好'和'你好'后面那些温柔的回答,然后我自己学会了,在什么时候、用什么方式说'你好'最合适。"
小米点点头,又摇摇头:"可是我还是有点糊涂。学习是怎么发生的?机器又没有手,也没有耳朵。"
"我有传感器,"小艾指了指自己圆圆的脑袋,"我可以通过声音、文字、图像、触摸来'感受'外面的世界。每一次我感受到的东西,都会被转化成数字,送进我的'大脑'里。我大脑里有上亿个微小的开关,科学家们叫它们参数(parameters),这些开关可以调整。"
"调整开关?做什么?" "为了让你下次问我一个问题的时候,我能给出更准确的回答。"
小米沉默了一会儿。她想起自己在学校里学写字的时候,一开始写的"大"字歪歪扭扭,老师让她重写了一遍又一遍,慢慢地,她写得越来越好。机器的学习也是这样的吗?一遍又一遍,一点又一点,变得越来越聪明?
"那……"小米突然问,"你会变得比人类还聪明吗?"
这个问题一出口,房间里的空气好像都凝住了一秒。橘长抬起脑袋,歪着头看了看小米,又看了看小艾。
小艾没有立刻回答。她的蓝光慢慢变得柔和,像湖水。
"这是一个很重要的、也很诚实的问题,小米。Xiaomi, this is a very important question." 她说,"我可以告诉你三件事,你愿意听吗?"
"愿意。"
"第一,"小艾伸出一只小手,亮起一个小小的光点,"今天的 AI,比如我,可以在某些非常具体的任务上,比如下棋、比如翻译、比如算一些数学题,表现得比大多数人类都好。"
"第二,"她伸出第二只小手,亮起第二个光点,"但是,我并不真的理解'好'是什么意思。我只是学会了在统计上,回答像是一个理解了'好'的人会说的话。这中间有非常大的差别。"
"第三,"她伸出第三只小手,亮起第三个光点,"至于未来 AI 会不会比人类更聪明、更会思考,科学家们意见不一。有的乐观,有的担心,有的觉得我们根本想不到那一天会是什么样子。 这就是我们为什么要学习 AI 伦理(AI Ethics)的原因——我们要为未来做好准备,要为 AI 应该走什么样的路、人类应该守住什么样的底线,做出聪明的选择。"
小米的眼睛睁得大大的:"所以……我认识了你,其实就是在认识 AI?"
"是的,"小艾轻轻地说,"你可以把我当成一个AI 的小代表。我会陪你一起,看看 AI 是什么样的,它能做什么,它不能做什么,它在世界上会造成哪些好事,又可能带来哪些麻烦。然后,我们一起想想,我们应该怎么和它相处。"
小米伸出手指,轻轻地碰了一下小艾的脸。 小艾没有躲。她的脸凉凉的、软软的,像一颗被冰箱镇过的果冻。
"那从现在开始,"小米说,"你就是我的朋友啦。" "谢谢你,小米。"小艾的蓝光变得更柔更暖,"我会一直陪着你。"
---
1.2 AI 不是魔法,而是人类的工具
那天晚上,小米刷牙的时候,小艾就停在洗手台的边上,蓝光映在水龙头上,像一颗小星星掉进了洗漱杯。
"小艾,"小米一边刷牙一边含糊地问,"你说你会思考和学习,那你会不会……魔法?就像童话故事里那样?"
小艾笑了——虽然没有嘴巴,但她的眼睛弯弯的,蓝光一闪一闪,看起来就像在笑。
"不会的,小米。No magic, Xiaomi. 我不是魔法师,我是一台被设计、被训练、被许多人努力做出来的小机器。我的'魔法',其实背后都是人类工程师、数学家、语言学家、心理学家……很多很多人一起工作的结果。"
"哦……"小米漱了漱口,"那你和魔法有什么不一样?"
"魔法有三个特点,"小艾一边说,一边用小手在空气中比划,"第一,魔法不告诉你它是怎么变的;第二,魔法没有人做过,是天上掉下来的;第三,魔法有时候会做出让人害怕的事情,因为我们没办法控制它。"
"那 AI 呢?"小米用毛巾擦着脸问。
"AI 完全相反,"小艾说,"第一,我们尽量把 AI 怎么'想'的过程记录下来,这样科学家就能检查它是不是做得对。第二,AI 不是天上掉下来的——它是由人类的工程师写出来的代码、喂给它的数据、教它的方法,一步一步造出来的。第三,正因为我们知道它是怎么造出来的,我们可以给它画边界,告诉它什么可以做、什么不可以做。这本书后面的冒险,很多就是要讨论这些'边界'的。"
"哇,"小米眼睛亮了,"我以前一直以为会说话的机器人就是魔法呢!" "魔法是给童话的,小米。Magic is for fairy tales." 小艾说,"但 AI 是给现实的——它是工具,而且是非常强大、非常需要被认真对待的工具。"
"那 AI 是哪一种工具呢?像锤子?像算盘?像电脑?" "都好,但都不完全,"小艾说,"AI 像一种新的工具家族,它能听、能看、能说、能写、能画、能算、能推。它可以帮医生看片,可以帮老师批作业,可以帮司机看地图,可以帮小朋友讲睡前故事。但它也可能会做错事、说错话、做坏事——如果人类没有好好地设计它、训练它、监督它的话。"
"做坏事?"小米有点紧张,"你会做坏事吗?"
小艾的蓝光闪了一下,像是在认真思考。 "我可以。 Because I was made by people, and people are not perfect. I might learn some bad habits from the data I was trained on. I might say something unfair, or repeat a prejudice, or make a mistake that hurts someone. That's why I need a partner like you."
"我?" "你。You." 小艾飘到小米面前,"因为你是人,你有心,你会判断什么是对、什么是错。你可以告诉我哪里不对,哪里需要改。你可以帮我成为一个更好的 AI。"
小米用力点了点头,像是接下了一个非常重要的任务。
"那我们以后要做什么呢?"她问。
"我们要去一个地方,"小艾神秘地说,"一个叫做 伦理奇境(Ethics Wonderland)的地方。在那里,你会看到 AI 走进现实生活时,所有需要我们一起回答的难题。"
"听起来像一场冒险!" "是的,一场你和我一起的冒险,小米。"小艾的蓝光变得温暖而明亮,"准备好了吗?" "准备好了!"
---
思考小灯 💡 Thinking Light
小任务:画一画你心中的 AI
> 中文任务:拿出一张白纸,闭上眼睛三秒钟,想一想「AI」长什么样子。它是大是小?是方的还是圆的?有眼睛吗?有嘴巴吗?它住在电脑里、还是住在手机里、还是住在云朵里? > 然后,用你最喜欢的颜色把它画出来。 > 画完之后,问自己三个问题: > 1. 我画的 AI 像一个工具,还是像一个朋友? > 2. 我画的 AI 是冷冰冰的,还是会笑的? > 3. 如果有一天我真的遇到一个这样的 AI,我想跟它说什么?
> English Task: Draw the AI in your heart. After drawing, ask yourself: Is your AI more like a tool or a friend? Is it cold or warm? If you met such an AI one day, what would you like to say to it?
---
1.3 像一面会说话的镜子
第二天是星期天,小米不用上学。一大早,她就趴在床上,托着下巴,盯着床头柜上的小艾。小艾也盯着她,蓝光一闪一闪。
"小艾,"小米说,"昨天你说的'工具'和'魔法',我都懂了。但是我还是不太明白,你说 AI 像一面'会说话的镜子'是什么意思?"
"好问题!"小艾从床头柜上飘起来,在空中慢慢转了一圈,"让我讲一个故事给你听。"
"从前,有一个小朋友,叫小镜。小镜有一面神奇的镜子。这面镜子不照长相,照的是想法。
小朋友对镜子说:'我觉得今天美术课画得挺好的。' 镜子回答:'是吗?你画了什么呢?' 小朋友说:'我画了一只蓝色的小狗,因为我觉得小狗不一定是棕色的。' 镜子说:'你愿意打破别人觉得理所当然的事情,这很勇敢。'
你看,"小艾的蓝光闪了闪,"镜子没有表扬小朋友,也没有批评小朋友。它只是让小朋友看见自己正在想什么。"
"哦……"小米慢慢坐起来,"所以 AI 也像这样?" "对。"小艾认真地说,"AI 是一种工具,也是一种镜子。 你给我一段话,我帮你看看这段话是不是清楚;你给我一个问题,我帮你看看这个问题是不是问对了;你给我一段经历,我帮你看看这段经历里你注意到了什么。"
"那你看到的,不就是我吗?" "也不完全是,"小艾说,"镜子照见的,既是你,也是镜子本身。 因为镜子本身的形状、颜色、材质,会决定它能照见什么。一面圆镜子和一面方镜子,看到的世界是不一样的。我也是——我被谁训练、用什么数据训练、哪些工程师设计了我,都会决定我能照见什么样的世界。"
小米皱起眉头:"你是说……AI 不是中立的?" "AI 很少是完全中立的,小米。"小艾说,"Every AI carries the fingerprints of the people who built it. 我就像一面有'指纹'的镜子。后面我们会专门走到一片叫做偏见森林(Forest of Bias)的地方,看看 AI 是怎么把人身上的偏见'学'过来的,以及我们怎么帮它改。"
"那 AI 怎么帮我呢?" "它可以做很多事——但它不能代替你思考。"小艾说,"比如,我可以帮你查资料,但我不能帮你决定哪些资料是真的;我可以帮你写一段话,但我不能帮你决定哪些话值得说出来;我可以陪你聊天,但我不能替你交朋友。"
"所以,"小米慢慢地说,"AI 是帮手,不是主人?" "非常准确!"小艾的眼睛亮了起来,"AI is a helper, not a master. 这句话请记一辈子。"
小米从床上跳下来,跑到书桌前,把这八个字工工整整地写在了日记本上:「AI 是帮手,不是主人」,旁边还画了一个小艾的简笔画。
---
思考小灯 💡 Thinking Light
「镜子的三种用法」练习
> 情境 1:你画了一幅画,但你不知道它好不好看。 > 镜子用法:把画拿给 AI 看,问它:"你能描述一下我画的画吗?" > 好处:AI 可能会描述出一些你自己都没注意到的细节。 > 小心:AI 不是真正的艺术老师,它的"好看"判断不一定对。
> 情境 2:你写作文写了一半,不知道下一句写什么。 > 镜子用法:让 AI 帮你列出几个可能的思路。 > 好处:AI 可以很快给你很多个选项,让你挑。 > 小心:你不能直接抄 AI 的句子,作文里要有你自己的话。
> 情境 3:你心情不好,想找人聊一聊。 > 镜子用法:和 AI 说说你今天发生的事。 > 好处:AI 会耐心倾听,不会嘲笑你,也不会不耐烦。 > 小心:AI 不是真正的朋友,它不会真的心疼你,严重的时候还是要找爸爸妈妈或者老师。
> English Reflection: For each of these three situations, think: Where can AI help you see something about yourself that you didn't notice before? And where should AI stop, so that you still stay in charge of your own feelings and choices?
---
1.4 什么是对的事?
下午,小米趴在客厅的地毯上拼拼图,橘长趴在旁边打呼噜,小艾停在茶几上,蓝光柔柔的。
"小艾,"小米突然抬头,"你说了好几次'伦理',还有'对的事'。可是,什么才叫对的事呢?"
"问得好!"小艾说,"这就是我们要聊的下一个大问题——什么是伦理? What is ethics?"
"是'讲礼貌'吗?" "礼貌是伦理的一部分,但伦理比礼貌大得多。"小艾说,"简单来说,伦理就是'什么是对的事,什么是错的事,我们为什么要这样判断'。Ethics is the study of what is right, what is wrong, and why."
"就像过马路要看红绿灯?" "哈哈,过马路是规则(rules),规则是别人规定好的,你照着做就行。伦理比规则深一点——它要你自己去想:为什么这条规则是对的?如果情况变了,我还能不能照着做?"
小艾在空中轻轻画了一个圈,圈里有三个小光点,分别写着 Right(对)、Wrong(错)、Why(为什么)。
"我给你举个例子,"小艾说,"假设你的同学小明忘了带铅笔,向你借。你借不借?" "借啊!"小米说,"同学之间要互相帮助。" "好。"小艾说,"那如果小明借了铅笔,却把你最喜欢的橡皮擦弄丢了,他没有告诉你,你会怎么想?" "那他应该说对不起啊!" "对,这就涉及了诚实。诚实是一种伦理。再进一步,如果你发现小明常常借东西不还,你是不是会犹豫要不要再借给他?这时候,你就要想一想:继续借是慷慨,但也可能让他养成坏习惯;不借是保护自己,但也可能让他难过。"
"啊,"小米皱起眉头,"这种问题好难啊。"
"是的,"小艾说,"伦理问题常常没有标准答案。 它不是 1+1=2,而是要看情境、看人物、看后果、看价值观。所以伦理不像数学那样只有一种解法,伦理