超能工坊开门啦：什么是AI芯片

想象一下，在你每天使用的手机里，住着一个比蚂蚁还小的小人国。这个小人国里住着几十亿个“小人”，它们每天都在忙碌地工作——帮你计算数学题、识别你拍的照片、甚至陪你玩各种有趣的游戏。这些“小人”就是我们今天要认识的主角：芯片。

芯片的正式名字叫做“集成电路”，英文是Integrated Circuit，简称IC。如果把芯片放大到足球场那么大，你就能看到上面密密麻麻的线路和元件，就像一座超级大城市里数不清的道路和房屋。每一座“房屋”都是一个叫做晶体管的小开关，而每一条“道路”都是传输电信号的线路。在最新最先进的芯片上，这样的“小房子”有多达几百亿个！

芯片的超能力来源：晶体管

要理解芯片为什么这么厉害，我们得先认识一下晶体管。晶体管是芯片里最基础的元件，你可以把它想象成一个小小的电灯开关。不过这个开关不是用手去按的，而是用电来控制的——当你想让它“打开”时，只需要给它一点电，它就会导通；当你不想让它工作时，切断电源它就“关闭”了。

第一个晶体管诞生于1947年，由美国的肖克利、巴丁和布拉顿三位科学家发明。当时那个晶体管有一个小灯泡那么大，而现在最新的芯片上，一个晶体管只有几个纳米那么小。纳米是一个特别特别小的单位，1纳米等于10亿分之一米。如果把一根头发丝横截面上的原子一个一个排成一排，大概能排10万个！所以现在的晶体管小到几乎看不见，但它的工作速度却快得惊人——每秒钟可以开关几亿次甚至几十亿次。

为什么晶体管越多芯片就越强呢？因为每个晶体管都可以表示“0”或“1”这两个数字中的一个。就像用积木搭房子一样，把很多很多0和1组合在一起，就能表示任何数字、文字、声音、图像甚至视频。一张普通的照片，在电脑里就是几百万个0和1；一首歌曲，就是几千万个0和1；一部高清电影，就是几十亿个0和1！而芯片里那几百亿个晶体管，就是处理这些0和1的超级工厂。

AI芯片的特殊使命

普通的芯片就像一个万能运动员，什么都能干，但什么都不算特别突出。它们可以处理文字、播放音乐、浏览网页、运行游戏，功能非常全面。但当人工智能（AI）这个新明星登场之后，情况发生了变化。

人工智能是一门让机器能够像人一样“思考”和“学习”的科学。比如当你对手机说“嘿，Siri，播放我喜欢的歌”，手机就能听懂你说的话并做出回应；当你把一张照片传给AI程序，它能认出照片里是猫还是狗；当你和AI下棋时，它能思考几步之后的局面并做出最优选择。这些看起来像“思考”的能力，实际上是通过一种叫做“神经网络”的数学模型来实现的。

神经网络的工作方式和我们大脑里的神经元有点像。打个比方，当你看到一只猫，你的眼睛会把图像传给大脑，大脑里的神经元会互相传递信息，最后判断出“这是一只猫”。AI的神经网络也是这样工作的，它会把输入的数据（比如一张图片）分成很多层，每一层都在做一些简单的判断，然后把结果传给下一层，经过很多层的处理之后，最终得出结论。

这个过程听起来简单，但做起来可不容易。因为每一层都有成千上万个“神经元”在同时工作，而且它们之间的连接关系非常复杂。要让这种复杂的计算跑得足够快，普通的芯片就显得有点力不从心了。这就像让一个万能运动员去参加马拉松比赛——他虽然什么都会，但不够专业，跑不过专门训练过的马拉松选手。

于是，AI芯片就应运而生了。顾名思义，AI芯片就是专门为人工智能任务设计的芯片。它的“超能力”就是能够非常高效、非常快速地执行神经网络的各种计算。普通芯片处理一个AI任务可能需要几秒钟甚至几分钟，而AI芯片可能只需要零点几秒，速度快了上百倍甚至上千倍！

大脑的秘密：为什么需要专用芯片

要理解为什么AI需要专用芯片，让我们先来看看人类大脑是怎么工作的。大脑是我们身体的指挥中心，里面有大约860亿个神经元，每个神经元又和成百上千个其他神经元相连，形成了一个人类至今都无法完全破解的超级复杂网络。

有意思的是，大脑的不同区域并不是做同样工作的。科学家发现，大脑的前额叶主要负责思考和决策，就像一个公司的CEO；视觉皮层专门处理眼睛看到的图像，就像一个专业的图像处理部门；听觉皮层负责处理耳朵听到的声音，就像一个音频工作室；记忆中心海马体负责存储和提取记忆，就像一个超级大图书馆。

这种“分工合作”的方式给了芯片设计者们很大的启发。传统的通用芯片就像一个什么都会的全科医生，而AI芯片就像一个专科医院——虽然只会看一种病，但看那种病特别专业、特别高效。

AI芯片的设计哲学就是“专病专治”。它专门针对神经网络中最常见的几种计算进行了优化，比如说“矩阵乘法”和“卷积运算”。这些数学运算听起来高大上，其实我们可以用一个简单的例子来理解。

想象你要计算两个班级的考试成绩。每个班级有10个学生，每个学生有语文、数学、英语三门成绩。如果你要算第一个班级的语文总分，你需要把10个学生的语文成绩全部加起来。这就是一种“向量求和”运算。如果你还要算两个班级之间的成绩对比，就需要把两个班级的成绩一个一个对应相减再求和，这就是一种“向量减法”运算。

而矩阵乘法就更复杂一点。假设你要把每个学生的成绩都转换一下，比如把百分制转换成等级制，或者做一些更复杂的统计分析。这时候你就需要把一个“矩阵”乘以另一个“矩阵”，得到一个全新的结果。

神经网络中的计算基本上都是这种矩阵和向量的运算，而且数量特别大、计算特别密集。普通的芯片做这些运算需要很多步骤，就像用计算器一个一个数字去按；但AI芯片有专门的硬件结构，可以一次并行计算很多很多数字，就像一个超级计算器同时按很多按键，效率自然就高多了。

普通芯片和AI芯片的区别

让我们用一个更具体的例子来比较普通芯片和AI芯片的区别。

假设我们要让计算机识别一张图片里有没有猫。图片在计算机里是一堆数字——比如说这张图片是1920×1080像素，每个像素有红、绿、蓝三个颜色值，那就是1920×1080×3 = 6,220,800个数字！想象一下，如果你要手工处理这600万个数字，那得花多少时间？

现在假设我们用一种简单的神经网络来处理这张图片。这个网络的第一层有1000个“神经元”，每个神经元都要和图片中的每个像素计算一次。600万个像素乘以1000个神经元，就是60亿次计算！而这还只是第一层，一个完整的神经网络可能有几十层，每一层都要做类似的计算。

用普通的计算器芯片（CPU）来跑这个任务，CPU会一个一个地计算，就像一个人用计算器算账——虽然能算对，但速度很慢。假设CPU每秒钟能完成10亿次运算（这已经是很快的CPU了），处理这张图片可能需要好几秒甚至更久。

但如果用AI芯片来处理呢？GPU芯片有几千个小的计算核心，它们可以同时工作，就像几千个人同时用计算器算账，速度自然就快多了。TPU芯片更进一步，它专门为矩阵乘法优化，同样的任务可能只需要零点几秒。

这里的关键差异在于“并行计算”能力。普通的CPU有几个到十几个核心，每次只能处理几个任务；GPU有几千个核心，可以同时处理几千个任务；TPU和NPU这类专用AI芯片虽然核心数量没有GPU多，但每个核心都是专门为AI计算优化的，所以效率更高。

另外还有一点很重要的区别是“功耗”。同样的AI任务，CPU可能需要100瓦的电力，GPU可能需要300瓦，而专用AI芯片可能只需要几十瓦。功耗低意味着发热少、耗电少，对于手机、耳机这些移动设备来说特别重要。这就是为什么现在的手机都配备了专门的AI芯片——NPU（神经网络处理单元），让手机能够在本地高效运行各种AI功能，而不用一直依赖云端服务器。

三位芯片超能英雄登场

好了，现在我们已经了解了芯片和AI芯片的基本知识。接下来，让我们认识一下本书将要详细介绍的三位芯片超能英雄！

第一位英雄：英伟达GPU

GPU的全称是Graphics Processing Unit，翻译过来就是“图形处理单元”。它最初是为了让电脑更好地显示游戏画面而设计的。我们知道，游戏里的画面每一秒都要更新几十次，而且画面里有无数的像素需要处理。GPU的设计者想到了一个聪明的办法：既然这些像素的计算都是互相独立的，那就让很多很多小处理器同时工作吧！于是GPU就有了成千上万个计算核心。

后来人们发现，这些并行计算的能力不仅可以用在画图上，还可以用来跑神经网络！于是GPU就成了AI计算的重要工具。虽然GPU不是专门为AI设计的，但它靠着自己强大的并行计算能力，在AI领域占据了很重要的地位。

英伟达（NVIDIA）是全球最大的GPU制造商，它的GPU芯片在AI训练领域几乎是垄断的存在。从游戏玩家用的显卡到数据中心里的大型计算机，到处都能看到英伟达的GPU。现在最新的英伟达H100芯片，一片就要几万甚至几十万人民币，而且有钱还不一定买得到，可见它有多抢手！

第二位英雄：谷歌TPU

TPU的全称是Tensor Processing Unit，翻译过来就是“张量处理单元”。张量（Tensor）是神经网络中用来表示数据的一种数学工具，所以TPU的意思就是“专门处理张量的芯片”。

TPU是谷歌公司专门为运行自己的AI程序而设计的。和GPU不同，TPU从一开始就是为AI而生的，它专门针对TensorFlow（谷歌开发的AI框架）进行了优化。TPU的设计者甚至去掉了很多GPU上用来处理图形的功能，把芯片上宝贵的空间都用来做AI计算，所以它的效率特别高。

谷歌从2016年开始推出TPU，现在已经更新到第五代了。TPU主要用在谷歌的数据中心里，支持Google搜索、Gmail、Google翻译、Google相册等各种各样的服务。每次你用Google搜索东西，背后可能就是TPU在帮你找到答案。

第三位英雄：华为昇腾

昇腾（Ascend）是华为公司开发的AI芯片品牌。昇腾芯片包括昇腾910和昇腾310等多个型号，它们既可以用于云端数据中心，也可以用于边缘设备和手机。

昇腾910是华为面向训练任务推出的旗舰芯片，它的计算能力达到了当时（2019年发布时）的国际先进水平。昇腾310则是面向推理任务设计的，功耗很低，适合用在手机、摄像头、智能音箱等设备上。

华为还开发了一整套软件平台叫做CANN（Compute Architecture for Neural Networks）和MindSpore（华为自研的AI框架），让开发者能够更方便地使用昇腾芯片来开发AI应用。

这三位英雄各有各的特长：GPU擅长并行计算，适用性最广；TPU专门为谷歌的AI生态优化；昇腾则是中国在AI芯片领域的重要代表。它们就像是芯片世界里的“三剑客”，在接下来的章节里，我们会一一探访它们的故乡，深入了解它们的神奇能力。

芯片是如何制造的

了解了芯片的超能力之后，你可能会好奇：这么厉害的芯片是怎么造出来的呢？

说起来你可能不信，芯片的制造过程和“雕刻”有点像。只不过雕刻师用的是刻刀，而芯片工厂用的是“光刀”——一种叫做“光刻机”的超级精密机器。

芯片的原材料是沙子，没错，就是我们平时随处可见的沙子。因为沙子的主要成分是二氧化硅，而硅正是制造芯片最重要的材料。首先，沙子要经过高温提炼，变成纯度高达99.99999999%（11个9！）的单晶硅，然后被切成薄薄的圆片，这个圆片叫做“晶圆”。

接下来就是最神奇的环节——光刻。工程师会先在晶圆上涂一层特殊的光敏材料（叫做光刻胶），然后用光刻机把事先设计好的电路图案投影到晶圆上。光就像一把超级精细的刀，把电路图案“刻”在晶圆上。然后再用化学药水把不需要的部分腐蚀掉，留下电路的部分。这个过程要反复进行几十次到上百次，每次只能“刻”电路的一部分。

你可以把制造芯片想象成画一幅极其精细的画。画家用的是画笔，而芯片工厂用的是“光笔”。这幅画有多精细呢？最新芯片上的线宽只有几纳米，比病毒还要小几千倍！如果说普通的画是在纸上画的，那芯片的画就像是在一粒米的表面画完整本的《红楼梦》，而且每一笔都要精确到原子级别。

芯片制造工厂有一个特别的名字叫做“晶圆厂”或“代工厂”。全球最先进的芯片制造公司包括台积电（TSMC）、三星（Samsung）和英特尔（Intel）等。台积电是目前全球最大的芯片代工厂，苹果、高伟达、华为等公司的芯片都是台积电生产的。制造最先进的芯片需要用到一种叫做EUV（极紫外光刻）的技术，这种技术的机器一台就要上亿美元，而且全世界只有荷兰的阿斯麦（ASML）公司能生产。

芯片的摩尔定律

在芯片行业里有一个著名的“定律”，叫做摩尔定律。它不是物理定律，而是一个经验性的观察，由英特尔的创始人之一戈登·摩尔在1965年提出。

摩尔定律说的是：芯片上的晶体管数量每隔18到24个月就会翻一番。这意味着芯片的性能每两年左右就会翻倍，同时价格还会下降。

回顾过去五十年，摩尔定律确实像神奇的预言一样一次次被验证。1971年，世界上第一个商用微处理器Intel 4004只有2300个晶体管；1985年的Intel 80386有27.5万个晶体管；1993年的Pentium有310万个晶体管；2000年的Pentium 4有4200万个晶体管；2010年的Intel Core i7有十几亿个晶体管；2023年的苹果M3芯片已经有250亿个晶体管！

五十多年间，晶体管数量增加了一亿倍！这是一个非常惊人的数字。如果其他行业也能这样发展的话，想象一下：1965年一辆最好的汽车卖1万美元，按照摩尔定律，现在应该只卖1分钱；1965年一台超级电脑价值1000万美元，现在应该只值1美元。

但是，摩尔定律现在正在遇到瓶颈。当晶体管小到只有一个分子那么大时，继续缩小就变得极其困难。量子效应开始发挥作用，电子可能会“穿墙而过”，导致芯片无法正常工作。而且制造更小晶体管的设备越来越贵，研发成本也越来越高。

不过，科学家和工程师们并没有放弃。他们正在探索各种新技术，比如使用新的材料（如石墨烯、碳纳米管）、采用新的结构（如3D堆叠、立体封装）、甚至研究全新的计算方式（如量子计算、光计算）。芯片的故事还远远没有结束！

AI芯片的未来

展望未来，AI芯片的发展方向可以总结为几个关键词：更快、更高效、更专用、更智能。

更快：芯片的计算速度还会继续提升。未来的AI芯片可能采用更先进的制程工艺，晶体管数量会继续增加。同时，新的计算架构也在不断涌现，比如存算一体芯片——把存储和计算合二为一，减少数据传输的时间损耗。

更高效：未来的AI芯片会更加节能。现在的数据中心消耗的电力已经是一个惊人的数字，而AI应用还在飞速增长。更高效的AI芯片可以在相同功耗下完成更多计算，或者用更少的电完成相同的计算，这对于环保和经济都有重要意义。

更专用：通用芯片和专用芯片会继续共存。对于一些特定的任务，专用芯片会越来越厉害；同时，芯片也会变得越来越“可编程”，可以根据不同的AI任务来调整自己的结构。一种叫做“FPGA”（现场可编程门阵列）的芯片就是这种思路的产物。

更智能：这个可能是最有趣的发展方向。现在的AI芯片基本上是在执行人类设计好的算法，但未来的芯片可能会“学会”自己优化自己。比如芯片可以根据运行的任务自动调整计算资源的分配，甚至可以自己设计新的计算电路。这听起来有点像科幻，但相关的研究已经在进行了。

本章小结

现在让我们来回顾一下这一章学到的知识：

1. 芯片是什么：芯片是集成电路的简称，上面密密麻麻排列着几十亿到几百亿个晶体管，负责处理各种计算任务。

2. 晶体管的作用：晶体管是芯片的基本元件，可以看作一个微小的电开关，通过控制电路的通断来表示“0”和“1”。

3. AI芯片的特殊使命：AI芯片专门为人工智能计算优化，能够高效快速地执行神经网络中的矩阵乘法和卷积运算。

4. 大脑的启示：大脑不同区域有不同功能，芯片也可以专门为特定任务优化，这种“专病专治”的设计理念催生了AI芯片。

5. 三位超能英雄：

• **英伟达GPU**：并行计算能力强大，最初用于图形处理，后来成为AI训练的主力
• **谷歌TPU**：专门为TensorFlow优化，专为AI任务而生
• **华为昇腾**：中国AI芯片的代表，涵盖训练和推理多种应用

6. 芯片制造：芯片从沙子提炼出硅开始，经过光刻等精密工艺制造而成，代表了人类制造业的巅峰水平。

7. 摩尔定律：芯片性能大约每两年翻倍，但这个定律正在接近物理极限。

思考与探索

在结束这一章之前，让我们来思考几个有趣的问题：

• 如果一个芯片有1000亿个晶体管，每个晶体管每秒开关10亿次，那么这个芯片每秒能完成多少次计算？
• 为什么游戏显卡（GPU）可以用来做AI计算？除了AI和游戏，GPU还能用在哪些地方？
• 如果让你设计一个专门用来“下棋”的芯片，你会怎么设计？它和通用的CPU有什么不同？
• 你觉得未来的芯片会是什么样子的？它们还能变得更小更快吗？

这些问题没有标准答案，但思考它们能帮助你更好地理解芯片的世界。在接下来的章节里，我们将会深入探访GPU、TPU和昇腾的故乡，详细了解它们各自的独门绝技。准备好了吗？让我们继续这场关于芯片的奇妙冒险！

从沙粒到智能：芯片的神奇世界

让我们先从一个看似不可能的问题开始：如果把人类有史以来生产的所有芯片上的晶体管加在一起，总共有多少个？

答案是：这个数字大约是10^21个，也就是10亿乘以10亿再乘以1万亿。这是一个大到难以想象的数字，但它的起点却小得可怜——最开始，这些晶体管都是用沙子做成的。

没错，就是你脚下的沙子、海边的沙子、建筑工地的沙子。芯片的原材料正是这些随处可见的沙粒。这个从沙粒到智能的转变，堪称人类历史上最伟大的魔法之一。

晶体管：芯片世界的原子

最简单的开关

在深入了解芯片之前，我们必须先认识晶体管。晶体管是芯片世界里的“原子”——它们是构成一切的基础元件。

最基础的晶体管叫做MOSFET（金属-氧化物-半导体场效应晶体管），它的名字虽然复杂，但原理却出奇地简单。让我们用一个小实验来说明：

想象你有一个水龙头，水管就是导线，水就是电流。水龙头有三个部分：进水口、出水口和控制旋钮。当你转动旋钮时，旋钮控制着阀门开的大小，从而决定有多少水流过。

晶体管的工作方式非常类似：

• **进水口** = 源极（Source），电流从这里流入
• **出水口** = 漏极（Drain），电流从这里流出
• **控制旋钮** = 栅极（Gate），用来控制电流是否流通

当栅极上没有电压时，阀门关闭，电流无法从源极流向漏极，晶体管处于“关闭”状态，我们用“0”来表示。当我们在栅极上施加电压时，阀门打开，电流就可以流通，晶体管处于“打开”状态，我们用“1”来表示。

就是这么简单！一个晶体管本质上就是一个用电控制的开关。但正是这个简单的开关，成为了数字文明的基石。

晶体管的小型化之路

1959年，仙童半导体公司的罗伯特·诺伊斯发明了第一个集成电路，他把多个晶体管做在了同一块硅片上，开创了芯片时代。但那时候的晶体管还比较大，像小指甲盖一样。

1965年，英特尔的联合创始人戈登·摩尔提出了一个观察：大约每隔两年，芯片上的晶体管数量