当机器开始思考：人工智能伦理学的诞生

第 1 章：当机器开始思考：人工智能伦理学的诞生

一个令人不安的问题

2018年3月18日夜晚，美国亚利桑那州坦佩市，一辆搭载自动驾驶系统的Uber汽车以约64公里/小时的速度行驶在道路上。车内的安全驾驶员低头看着手机，视线短暂离开前方。就在这时，一名49岁的女性行人伊莱恩·赫茨伯格推着自行车从阴影中走出。传感器捕捉到了她，但系统未能正确识别她为需要避让的行人。驾驶员也未能及时接管。几秒钟后，悲剧发生——赫茨伯格在送往医院后不治身亡。

这起事故引发了全球范围内的激烈争论。争论的焦点并非技术故障本身，而是更深层的问题：当一辆自动驾驶汽车面临不可避免的碰撞时，它应该优先保护车内乘客还是行人？撞死行人是否可以接受，因为“行人违反了交通规则”？如果答案是否定的，那么我们是否在要求自动驾驶系统在关键时刻做出道德判断？而这种道德判断的权力，本应属于谁？

这个令人心痛的真实案例，揭开了人工智能伦理学最核心的谜题：当机器开始参与甚至主导那些曾经专属于人类的决策时，我们该如何为它们划定行为的边界？更根本的问题是：我们是否有权这样做？

这不是一道单纯的技术题，而是一道关乎人类自身存在意义的哲学题。传统伦理学花了数千年时间，试图回答“什么是好的行为”“我们应该如何对待他人”这些根本问题。然而，当行为的主体不再是人类，而是一台由代码和算法驱动的机器时，这些古老的答案还适用吗？人工智能伦理学正是在这种深刻的时代变革中应运而生——它不是对传统伦理学的简单延续，而是对人类道德秩序的一次根本性重新审视。

本章将追溯人工智能伦理学的诞生历程，从历史、技术和哲学三个维度回答一个核心问题：为什么人工智能的发展迫切需要伦理规范的约束？AI伦理学与人类过去的伦理探索究竟有何本质区别？

---

人工智能发展史上的三次浪潮与伦理关切的演变

要理解人工智能伦理学为何在今天变得如此重要，我们首先需要回顾人工智能走过的漫长道路。这条道路上，技术的每一步前进都在不断触碰伦理的边界。

第一次浪潮：符号主义的理想（1956-1974）

人工智能作为一个正式学科的诞生，可以精确地追溯到1956年夏天。在美国新罕布什尔州达特茅斯学院的一次历史性聚会上，约翰·麦卡锡、马文·明斯基、克劳德·香农等年轻学者提出了一个雄心勃勃的目标：创造能够像人类一样思考的机器。他们为这个全新的领域起了一个富有远见的名字——人工智能（Artificial Intelligence）。

在那个充满乐观主义的年代，科学家们相信智能的本质是符号操作。他们设想，如果能够将人类的知识编码成符号系统，并用逻辑规则来处理这些符号，机器就能实现真正的智能。这一时期的代表作是“通用问题求解器”（General Problem Solver），它能够通过逻辑推理解决形式化的数学问题。研究者们甚至预言，十年内将出现一台能够击败世界象棋冠军的机器。

然而，早期的伦理关切也随之浮现。这些关切主要集中在两个方面：

第一，机器是否能“思考”涉及到对人类独特性的重新定义。 如果机器能够进行逻辑推理，那么人类的理性特权是否会被撼动？哲学家伯特兰·罗素等人开始思考：当机器能够执行被认为“专属于人类”的任务时，我们对“人性”的理解是否需要改变？

第二，早期人工智能系统可能做出错误决策的风险开始受到关注。 虽然当时的技术还很原始，但研究者们已经意识到，一个依赖符号逻辑的系统可能因为输入错误或规则冲突而产生荒谬的结论。这种对“机器错误”的早期警惕，播下了后来AI伦理学的第一粒种子。

第一次浪潮最终因计算能力的严重不足而退却。1974年，美国国防部高级研究计划署（ARPA）大幅削减了对人工智能的资助，标志着第一个“AI冬天”的到来。但技术先驱们播下的种子——对机器智能的想象与担忧——已经深深植入了人类的集体意识。

第二次浪潮：专家系统的兴衰（1980-1987）

1980年代，人工智能迎来了第二次繁荣。这一次的主角是专家系统——一种将特定领域专业知识编码为规则的计算机程序。最著名的案例是斯坦福大学的MYCIN系统，它能够根据患者的症状和血液检查结果，诊断细菌感染并推荐抗生素治疗方案。在测试中，MYCIN的表现甚至优于部分人类传染病专家。

专家系统的兴起带来了全新的伦理议题：

医疗决策的自动化边界。 MYCIN这样的系统能够给出治疗建议，但谁应该为最终的治疗决策负责？是使用系统的医生，还是开发系统的工程师？如果系统给出了错误的建议导致患者受害，责任该如何分配？这些问题促使医学界开始思考人机协作决策的伦理框架。

知识获取的瓶颈——冷启动问题。 专家系统的核心挑战在于：如何将人类专家的知识转化为机器可处理的规则？一位经验丰富的医生可能凭借“临床直觉”做出判断，但这种直觉往往难以用明确的规则表达。研究者们逐渐意识到，知识的获取与表达本身就是一个深刻的认识论问题——我们如何确保编码进机器的知识是完整的？我们对自身知识的理解是否足够清晰到可以被形式化？

“稳定性”担忧。 与今天的深度学习系统不同，专家系统的决策过程是透明的——每一步推理都可以被追踪和解释。这种透明性本应带来信任，但它也暴露了一个悖论：当系统能够解释自己的推理时，人们是否反而更容易发现其中的错误？而当错误被发现后，修改规则的责任又该由谁承担？

第二次浪潮同样以泡沫破裂告终。1987年，随着个人计算机性能的提升和成本下降，昂贵的专用专家系统逐渐失去市场。然而，这次浪潮留下的重要遗产是：人们开始认真对待机器决策的后果，并意识到决策责任的归属是一个必须解决的问题。

第三次浪潮：深度学习的革命与伦理学的觉醒（2011-至今）

2011年前后，一个被称为深度学习的技术革命悄然兴起。与符号主义和专家系统不同，深度学习不依赖人工编码的规则，而是通过让多层神经网络从海量数据中自动学习特征来实现智能。2016年，谷歌旗下的DeepMind公司开发的AlphaGo以4:1的比分击败了世界围棋冠军李世石，这一里程碑事件震惊了世界——在此之前，大多数专家认为机器要在围棋上达到人类顶级水平还需要数十年。

深度学习带来的变革是根本性的：

不可解释性成为常态。 深度学习系统能够做出令人惊叹的预测，但它们是“黑箱”——我们往往无法准确解释系统为何做出某个决策。这与专家系统的透明性形成了鲜明对比。当一个自动驾驶系统在关键时刻决定不刹车时，工程师可能无法给出清晰的人类可理解的理由。

能力边界的模糊化。 早期的AI系统在狭窄领域表现出色，但难以泛化。深度学习系统展示了惊人的跨领域迁移能力。一个训练于图像识别的网络，经过微调后可能处理语音识别甚至自然语言理解。这种通用性的萌芽引发了更深的担忧：当AI的能力边界越来越模糊时，我们如何界定它“应该做什么”？

第三次浪潮催生了人工智能伦理学的学科觉醒。 2016年，IEEE（电气与电子工程师协会）发布了全球首个人工智能伦理标准。2017年，中国国务院发布《新一代人工智能发展规划》，明确提出“促进人工智能伦理规范发展”。同年，阿西洛马人工智能原则（Asilomar AI Principles）由人工智能研究者社区签署，成为行业共识的基础文件。2018年，欧盟开始制定《人工智能法案》，试图以立法方式为AI应用划定边界。

从1956年到今天，人工智能经历了三次浪潮，技术的形态发生了根本性变化，但伦理关切的演变呈现出一条清晰的脉络：从最初对“机器能否思考”的哲学好奇，到对“机器决策是否可靠”的技术担忧，再到今天对“机器行为是否合乎道德”的规范性追问。 这一演变轨迹揭示了一个深刻的真相：随着AI能力的增强，我们对它的要求已经从“能做事”提升到“做正确的事”，而“正确”的定义本身就是一个伦理问题。

---

从图灵测试到中文房间：机器能否「理解」？

在探讨AI伦理之前，我们必须先回答一个更基础的问题：机器是否能够真正“理解”它在做什么？如果机器只是按照预设规则运行而不具备真正的理解能力，我们是否还需要考虑它的“道德地位”？

图灵测试：智能的实用主义定义

1950年，在人工智能作为一个正式学科诞生之前六年，英国数学家阿兰·图灵就在其经典论文《Computing Machinery and Intelligence》中提出了一个简洁而深刻的问题：机器能思考吗？

图灵没有试图从哲学上定义“思考”的本质，而是采用了一种实用主义策略。他设计了一个后来被称为图灵测试的实验：让一个人通过文字终端与两个隐藏的对话者交流，其中一个是真人，另一个是机器。如果这个人无法可靠地区分哪个是人、哪个是机器，那么按照图灵的标准，我们就有理由认为这台机器具有智能。

图灵的深刻之处在于：他将智能的判断标准从“内在本质”转向了“外在表现”。这在当时是革命性的，因为它回避了关于意识、意向性、感受性等哲学概念的棘手争论，转而关注可观测的行为。

然而，图灵测试也引发了持久的争议。批评者指出，通过图灵测试并不等同于真正理解语言。一个系统可能通过模式匹配和统计规律“模仿”人类对话，而无需真正理解词语背后的含义、情感和语境。

中文房间：塞尔对图灵测试的著名反驳

1980年，美国哲学家约翰·塞尔用一个思想实验对图灵测试发起了经典挑战，这个实验后来被称为中文房间（Chinese Room）。

设想一个完全不懂中文的人被锁在一个房间里。房间里有大量中文符号和一本详细的规则手册，手册说明了如何根据收到的中文符号组合回复相应的中文符号。房间外的人将中文问题递进去，里面的人按照规则找到对应的符号组合并递出去。外面的人会认为这是一个精通中文的人在回应。

塞尔用这个比喻来说明：一个系统可能在外在行为上与理解中文的人类无法区分，但它实际上完全不理解中文。 符号的操作者只是在执行规则，并不“理解”符号的意义——就像一个人可以在不理解象棋规则含义的情况下，按照规则下棋。

塞尔的论证直指人工智能的核心困难：智能是否必然包含某种形式的“内在理解”？ 如果答案是肯定的，那么无论机器表现得多么像人类，它都只是在“模拟”智能而非真正“拥有”智能。这个区分对AI伦理学至关重要：如果AI没有真正的理解能力，它是否配得上“道德主体”的地位？

这场争论对AI伦理学的深层意义

图灵测试与中文房间的争论看似是技术哲学的抽象思辨，但它对AI伦理学有着深刻的实践意义。

首先，它影响了我们对AI“责任能力”的判断。 在法律和伦理中，责任通常与理解能力相关。一个6岁的孩子可能不完全理解道德规则的深层含义，但法律系统通常会考虑到其认知发展的局限性。如果AI仅仅是“符号操作器”而不具备真正的理解，那么我们是否应该对它的“失误”给予更多的宽容？还是说，正因为它缺乏道德理解能力，我们更应该严格约束它的行为？

其次，它揭示了“可解释性”为何在AI伦理中如此重要。 如果我们无法确定机器是否“理解”自己在做什么，那么确保机器行为符合人类价值观就变得格外困难。我们需要能够在某种程度上“透视”机器的决策过程——即使完整的理解可能永远无法实现。欧盟《人工智能法案》对“高风险AI系统”提出的可解释性要求，正是对这一挑战的制度性回应。

第三，这场争论提醒我们：智能与道德可能是相互交织的。 在人类道德发展中，对他人的道德理解——意识到他人有自己的利益、感受和权利——被认为是道德行为的关键前提。如果机器真的不可能发展出这种深层的理解，那么它们可能永远无法成为真正的“道德行动者”，而只能作为人类道德决策的辅助工具。

这个问题没有简单的答案。不同的AI伦理学家基于对图灵测试和中文房间争论的不同解读，发展出了不同的理论立场。一些人认为，行为的“足够好”就是智能的全部，我们不需要追问内在的“真实性”；另一些人则坚持，真正的道德要求必须建立在理解的基础上。无论立场如何，这场争论已经成为AI伦理学不可回避的起点。

---

AI作为行动者的道德地位：工具还是主体？

在明确了机器“理解”的哲学困境之后，我们现在要面对AI伦理学的核心问题之一：人工智能应该被如何看待？它是一种工具，还是一种行动者？如果它是行动者，它是否具有某种道德地位？

工具观：AI作为人类意志的延伸

最直觉的理解将人工智能视为工具——一种人类创造、用以实现特定目标的手段。在这种观点下，AI与锤子、汽车、计算器没有本质区别：它只是人类意志的延伸，其价值完全来自使用它的人类意图。

工具观的支持者会指出：AI没有自主的欲望和意图，它只是执行被设计好的功能。AlphaGo可以击败围棋冠军，但“赢棋”并非它的愿望——这只是它被训练实现的目标。一辆自动驾驶汽车可以识别行人并刹车，但这不是出于对行人安全的“关心”，而是因为它的程序被设定为避免碰撞。

工具观的伦理含义是清晰的：如果AI只是工具，那么道德责任应该完全由使用者和设计者承担。 就像一把刀杀了人，责任在持刀者而非刀本身。这种观点为现有法律体系提供了便利：我们可以沿用产品责任法、过失侵权法等成熟框架来追究相关方的责任。

然而，工具观在当代AI实践中遭遇了严峻挑战：

当AI的决策过程超出人类理解和控制时，工具观难以解释责任真空。 现代深度学习系统的决策过程往往复杂到连开发者都无法完全解释。当系统在一个边缘案例中做出错误决策时，追溯具体的设计缺陷或使用不当可能极为困难。

当AI在特定场景中扮演“决策者”角色时，“工具”的标签显得不恰当。 当你申请贷款被AI系统拒绝，当你的简历被AI筛选系统过滤，当你的医疗影像被AI系统标记为“异常”——在这些情境中，AI并非仅仅在帮助你做决定，而是在代替你做决定。这种“替代”性质让“工具”的比喻变得勉强。

行动者观：AI作为道德代理的可能

与工具观相对，一些学者提出了AI作为行动者的可能性。这种观点认为，当AI能够自主地感知环境、做出判断、采取行动时，它就不再仅仅是工具，而是一个能够对世界产生影响的行动者。

行动者观的理论基础来自伦理学中对“道德代理”（moral agency）的讨论。传统上，道德代理需要满足两个条件：第一，行动者能够认识到其行为的道德意义（即具备道德敏感性）；第二，行动者能够基于这种认识做出选择（即具备自由意志）。

按照这个标准，目前的人工智能显然不是完整的道德代理。它缺乏对道德意义的真正理解，也缺乏在价值层面进行选择的能力。然而，一些伦理学家提出了“功能性道德代理”的概念：即使AI不具备真正的道德理解，如果它在功能上表现得像一个道德代理——能够识别伦理相关因素、遵循道德规则、对其行为的后果做出反应——我们是否应该在规范层面将其视为道德代理？

这种功能性观点的极端版本认为：道德代理可能不需要“真正的理解”，只需要“正确的行为”。就像一个通过图灵测试的系统可以被视为具有智能，一个功能上符合道德要求的AI也可以被视为道德代理。

行动者观对AI伦理的启示是双重的：

一方面，它为更严格地约束AI行为提供了理由。 如果AI某种程度上是行动者，那么仅仅追究人类设计者的责任可能不够。我们需要为AI系统本身设定行为规范，就像法律为法人设定行为规范一样。

另一方面，它引发了关于AI权利的讨论。 如果AI具有某种程度的行动者地位，它是否也应该具有某种“利益”而值得道德考量？尽管这个想法在目前看来还很遥远，但一些学者已经开始探讨未来可能出现的高等人工智能是否可能拥有道德权利的问题。

关系性视角：超越二元对立

当代AI伦理学越来越多地倾向于一种关系性视角：不将AI简单归类为工具或主体，而是关注人类与AI之间动态的、相互建构的关系。

这种视角借鉴自伦理学中的“关怀伦理学”和“美德伦理学”。它强调：人类与AI的关系不是单向的——AI影响人类行为和决策，人类也塑造AI的设计和发展。在这个过程中，双方都在某种程度上“调适”对方。

关系性视角的实践意义在于：它要求我们不仅仅关注AI应该怎么做，还要反思我们人类应该如何看待和使用AI。 一个面部识别系统可以在技术上完美运行，但如果社会对它的使用方式本身是歧视性的或侵犯性的，问题就不在于系统本身，而在于人类对系统的使用方式。

在接下来的章节中，我们将看到这种关系性视角如何帮助我们分析具体的AI伦理困境——从自动驾驶的道德决策，到算法歧视的根源追溯，再到人工智能对人类就业和身份认同的影响。理解AI与人类之间的这种深层互构关系，是把握AI伦理学的关键。

---

阿西洛马人工智能原则：人类为机器立规的历史传统

在为机器制定规则这件事上，人类其实早有传统。在人工智能这个词汇出现之前，科幻作家艾萨克·阿西莫夫就已经在他的机器人系列小说中，系统地思考了机器行为的道德规范。

阿西莫夫机器人三定律的诞生与内容

1942年，阿西莫夫在其短篇小说《转圈圈》（Runaround）中首次提出了著名的机器人三定律：

> 第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。 > > 第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外。 > > 第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

这三条定律形成了一个层级结构：生命安全优先于服从命令，服从命令优先于自我保护。阿西莫夫用大量小说情节展示了当这三条定律应用于复杂情境时产生的逻辑悖论和伦理困境，这些故事至今仍是AI伦理学的经典思想实验。

三定律的历史贡献

阿西莫夫的贡献首先在于它将机器行为规范化的努力。在1940年代，机器人还完全是科幻概念，但阿西莫夫已经预见到：当机器具有足够的能力时，它的行为必须受到约束。他的三定律是规范性思考的先驱——它不是在问“机器能做什么”，而是在问“机器应该做什么”。

其次，三定律提出了价值层级化的思想。阿西莫夫敏锐地意识到，不同的价值可能相互冲突，而规范系统必须为这种冲突提供解决机制。他的层级结构（生命 > 命令 > 自保）反映了人类道德直觉中的一些基本优先级。

第三，阿西莫夫通过小说叙事揭示了规则应用中的复杂性。现实世界中的道德情境远比规则制定者预期的更加模糊和多变。一个看似清晰的规则，在应用到具体情境时可能产生令人意想不到的结果。这种对“规则局限性”的深刻洞察，至今仍是AI伦理学的核心议题。

三定律的历史局限性

然而，阿西莫夫的三定律在面对今天的人工智能时，展现出明显的局限性：

第一，概念模糊性。 “伤害”如何定义？身体伤害显然是伤害，但精神伤害呢？经济损失呢？机会剥夺呢？更重要的是，“目睹”将遭受危险”要求机器人具有对未来的预测能力，但这种预测在复杂系统中本质上是不确定的。一个自动驾驶系统如何在瞬间判断某个情境是否构成“危险”？

第二，等级冲突缺乏解决机制。 当两个价值完全相等但不可兼得时