伦理学的哲学基础与AI时代

第1章：伦理学的哲学基础与AI时代

引言：当智能机器走入道德领域

人工智能技术的迅猛发展正在深刻重塑人类社会的运行方式。从自动驾驶汽车在紧急时刻必须做出的生死抉择，到医疗诊断系统在资源有限时对病患优先级的判定；从算法推荐系统对信息获取的隐性操控，到自主武器系统在战场上独立执行攻击任务的潜在可能——人工智能系统日益频繁地置身于需要伦理判断的情境之中。这些情境并非虚构的哲学实验，而是正在或即将发生的现实挑战。当机器能够自主行动、其决策后果涉及人类福祉甚至生死时，一个根本性的问题便不可回避地摆在我们面前：这些智能系统应当遵循怎样的伦理原则？由谁来设定这些原则？又该如何确保这些原则得到切实执行？

这一追问触及的不仅是技术问题，更是深刻的哲学问题。人工智能伦理学的兴起，正是伦理学这一古老学科面对新兴技术挑战时的理论回应。伦理学（Ethics）作为哲学的核心分支之一，自古希腊哲学家亚里士多德系统论述以来，便致力于探讨何为善、何为正当、人应当如何行事等根本性问题。两千余年的学术积累形成了丰富的理论资源，从功利主义的效益计算到义务论的权利论证，从美德伦理学的品格培养到契约论的协议建构，不同的伦理学流派提供了理解道德现象的不同视角和论证道德判断的不同方法。这些理论资源为当代人工智能伦理问题的分析提供了不可或缺的概念工具和方法论指导。

然而，承认传统伦理学理论的价值，并不意味着可以简单地将既有框架机械套用于人工智能情境。人工智能系统所具有的独特特征——如自主性（autonomy）、学习能力（learning capability）、可扩展性（scalability）以及非人类认知架构（non-human cognitive architecture）——使得传统伦理框架在应用时面临前所未有的挑战。当道德主体从人类扩展到人造系统时，许多原本不证自明的前提需要重新审视，许多习以为常的论证策略需要根本性调整。人工智能伦理学既是一门应用伦理学（applied ethics），需要将既有伦理理论应用于新情境；又是一门新兴的跨学科领域，需要在技术、法律、社会学等学科的对话中发展自身的理论特色。

本章旨在为全书奠定坚实的理论基础。全文将系统梳理伦理学的主要流派——功利主义（utilitarianism）、义务论（deontology）、美德伦理学（virtue ethics）以及契约论（contractualism）——的核心主张及其在人工智能伦理语境中的适用性与局限。在此基础上，探讨技术伦理学（technology ethics）的学科定位，分析人工智能系统为何需要伦理审视，以及传统伦理框架在面对人工智能时面临的特殊挑战。本章还将引入“价值对齐”（value alignment）、“人工道德主体”（artificial moral agents）等核心概念，为后续章节的深入分析建立概念工具箱。

一、伦理学的四大理论流派

伦理学作为哲学的规范性分支，其核心任务是回答道德判断是否正确、如何证成以及何种行为在道德上被要求、允许或禁止。纵观西方伦理学史，主要形成了四种具有系统性和影响力的理论传统，它们在道德推理的基础、规范标准的设定以及论证方法的选择上各有侧重，共同构成了理解道德现象的多元视角。

1.1 功利主义：最大化幸福的计算

功利主义是19世纪由杰里米·边沁（Jeremy Bentham）和约翰·斯图亚特·密尔（John Stuart Mill）系统阐发的伦理理论。其核心原则可概括为：行为的正确与否取决于其产生的结果，具体而言，取决于其对整体幸福的贡献。边沁明确提出“最大多数人的最大幸福”（the greatest happiness of the greatest number）是道德的最高准则。密尔在《功利主义》一书中进一步论证了这一原则的哲学基础，认为幸福是唯一内在的善，而痛苦是唯一内在的恶，其他事物之所以具有价值，仅在于其能够促进幸福。

功利主义在规范伦理学中占据独特地位，因为它是一种结果主义（consequentialism）理论，强调道德评价的核心标准是行为的后果而非行为本身或其内在性质。与之相对的是义务论（deontology），后者认为某些行为因其内在性质而本身就是错误的或必须的，不论其后果如何。这种对后果的强调使得功利主义在实践中具有较强的可操作性：当面临选择时，理性行为者应当比较不同选项的结果，计算每种选择可能带来的幸福总量或痛苦总量，然后选择产生最大净幸福（net happiness）的行动方案。

功利主义的计算方式可以是累积式（additive）或平均式（average）的。累积功利主义关注的是总体幸福的最大化，倾向于支持能够使幸福总量最大化的政策，即使这意味着部分人的幸福水平很低。平均功利主义则关注人均幸福水平，可能倾向于更加平等的分配。行为功利主义（act utilitarianism）逐案评估每个具体行为的道德价值，而规则功利主义（rule utilitarianism）则评估遵循特定规则在长期中是否会产生更好的整体结果。后者在某些情况下可以避免行为功利主义可能导致的违反直觉的结果，例如通过说谎来避免一时的不适。

然而，功利主义也面临诸多批评。首先是幸福计算的技术困难：幸福作为一种主观体验如何被量化比较？不同人的幸福如何相加？快乐主义（hedonistic）功利主义将善等同于快乐，但密尔在《功利主义》中的著名区分——低层次快乐与高层次快乐——暗示幸福并非纯粹的数量概念。其次是分配正义问题：功利主义可能允许以牺牲少数人利益为代价增进多数人福利，这在道德直觉上令人不安。一个假想的例子是：如果器官移植可以拯救五个生命而仅牺牲一个生命，功利主义似乎会支持这种做法，但大多数人会认为这是不可接受的。第三是行动者资格问题：功利主义要求行动者考虑其行为对所有受影响者的后果，但在认知能力和信息不完整的条件下，这种全局计算往往不可行。

1.2 义务论：道德法则的绝对命令

与功利主义的结果导向不同，义务论将道德价值的根基置于行为的内在性质或行动者的道德义务之中。康德（Immanuel Kant）是义务论传统最重要的代表人物，他通过纯粹理性批判建立了一种以“绝对命令”（categorical imperative）为核心的伦理体系。康德认为，理性存在者作为自在目的而非仅仅是手段，其尊严不可被化约为可交换的价值。绝对命令的第一表述——“只按照你同时也能够愿意它成为普遍法则的准则行动”——要求行为者检验其行动准则是否可以被普遍化而不会导致矛盾。绝对命令的第二表述——“你的行动，要把你自己人身中的人性，和其他人身中的人性，在任何时候都看作是目的，永远不能只看作是手段”——则直接肯定了人的内在尊严和不可侵犯的权利。

义务论的核心特征是非结果主义（non-consequentialism）或道义论（deontology）的立场：行为的道德价值不在于其产生的后果，而在于行为本身是否遵循了道德法则。这意味着某些行为——如说谎、谋杀、欺诈——本身就是错误的，不论其后果可能多么有利可图。康德明确反对将人仅仅作为手段对待，即使是出于良好意图。例如，即使为了挽救一个无辜者的生命而对凶手撒谎是功利计算上的较优选择，康德仍然认为这种做法在道德上是错误的，因为它违背了不说谎这一绝对义务。

义务论在权利（rights）和义务（duties）的基础上构建道德论证。权利进路强调个体拥有不被侵犯的道德资格，某些行为即使得到受影响者的同意或能够带来更好的整体结果，仍然可能构成对权利的侵犯。义务进路则强调行为者负有的道德责任，这些责任可能来源于对承诺的遵守、对角色的履行或对普遍法则的服从。无论是权利进路还是义务进路，都强调道德约束的绝对性或底线性质：存在某些无论如何都不应逾越的道德界限。

义务论面临的主要批评包括：首先，规则冲突问题：当不同的道德义务相互冲突时，义务论如何裁决？康德的框架在面对“说谎的义务”与“保护生命的义务”冲突时，似乎缺乏明确的优先规则。其次，极端化风险：严格的义务论可能导致在某些情境下做出明显不当的行为，例如在追杀者追问无辜者下落时选择说出实情。批评者认为，忽视行为后果的道德理论在实践中存在严重缺陷。第三，内容空洞批评：有论者指出康德的绝对命令在形式上过于抽象，缺乏具体的实质内容，其普遍性反而可能导致道德判断的空洞化。

1.3 美德伦理学：品格与美好生活

美德伦理学是西方伦理学史上最古老的传统，可追溯至亚里士多德的《尼各马可伦理学》。与功利主义和行为结果、义务论和行为准则不同，美德伦理学关注的核心是行为者的品格（character）以及美好生活（good life）的整体追求。亚里士多德认为，伦理学的研究目的是探讨“幸福”（eudaimonia，通常译为 flourishing 或 human flourishing），即一种充实而优秀的生命状态。幸福不是短暂的快乐或功利的成功，而是通过践行美德（virtue）——如勇敢、节制、正义、智慧等——而实现的整体生命质量。

在美德伦理学框架中，道德行为是品格的外在表现。一个具有诚实美德的人在说谎时会感到内在的不适，因为说谎与其品格不一致；同样，一个具有勇敢美德的人在面对危险时不会退缩，因为这是其品格的自然延伸。美德不是天生的，而是通过习惯和实践培养的。亚里士多德著名的“练习说”（doctrine of the mean）认为，美德处于两个极端——过度与不足——之间的中道。例如，勇敢作为美德处于鲁莽（过度）和怯懦（不足）之间。这种中道并非算术平均，而是根据具体情况——由具有实践智慧（phronesis）的明智之人所判断——而确定的恰当反应。

美德伦理学的复兴在很大程度上归功于阿拉斯戴尔·麦金太尔（Alasdair MacIntyre）在其1981年著作《追寻美德》中对现代伦理学危机的诊断。麦金太尔认为，现代伦理学在“情感主义”（emotivism）的道路上走得太远，道德判断沦为纯粹主观偏好的表达，失去了任何客观标准。他主张回到亚里士多德传统，通过“叙事”理解人的身份认同和道德生活，认为美德是在实践共同体（practice community）中通过传统传承而获得和维持的。

当代美德伦理学家如 Rosalind Hursthouse、Julia Annas 和 Michael Slote 进一步发展了这一传统。Slote 提出的基于主体的美德伦理学（agent-based virtue ethics）直接以行动者的美德作为道德评价的基础，而非关注行为本身或行为后果。Annas 则强调美德的理性维度，认为美德不仅是情感倾向，更是具有认知深度的实践能力。这些发展使得美德伦理学能够回应关于道德心理学和实践理性的批评。

美德伦理学对人工智能伦理的启示在于其独特的分析视角：当关注点从单个行为转向行动者整体时，问题便从“人工智能系统应当如何行动”扩展为“人工智能系统应当成为什么样的存在”以及“设计和使用人工智能的人应当培养什么样的品格”。这种视角转换可能为人工智能伦理提供功利主义和义务论所忽视的重要维度。

1.4 契约论：协议中的正义

契约论（contractualism）传统将道德规范的合法性与社会成员的同意联系起来，认为道德原则是（或应当是）理性行为者在公平条件下协商达成的协议结果。霍布斯（Thomas Hobbes）在《利维坦》中通过自然状态的思想实验论证了理性个体为何需要权威和法律的约束：在一个没有共同权力的竞争环境中，人的生活是“孤独、贫穷、肮脏、残忍而短暂的”。为了摆脱这种状态，理性个体同意让渡部分自然权利，建立主权者来维护和平与秩序。

罗尔斯（John Rawls）在《正义论》中发展了一种更为精致的契约论框架。他提出“无知之幕”（veil of ignorance）的思想实验：在原初状态（original position）下，理性个体不知道自己在现实社会中的地位、天赋、价值观念等个人信息。在这种“无知”条件下选择的正义原则，将排除个人偏袒和偶然因素，成为公平正义的标准。罗尔斯据此论证了差别原则（difference principle）的合理性：社会和经济的不平等安排应当有利于最少受惠者，否则便缺乏正义性。

与功利主义不同，罗尔斯的契约论明确拒绝了“最大幸福总量”作为正义标准的主张。在功利主义框架下，为多数人更大幸福的可能可以压倒少数人的基本权利；但罗尔斯认为正义优先于效率，基本权利和自由不可因功利考量而妥协。他的两个正义原则——第一原则保障平等的基本自由，第二原则允许社会经济不平等但必须有利于最不利者——体现了一种对平等价值的坚定承诺。

当代契约论的发展还包括了T.M.斯坎伦（T.M. Scanron）的“做什么都不可接受的”（what we owe to each other）框架。斯坎伦认为道德原则是理性个体在无可指责的条件下无法合理拒绝的协议结果。这种“合理拒绝”（reasonable rejection）的概念避免了罗尔斯对原初状态的强烈假设，同时保持了契约论的同意基础。斯坎伦尤其强调道德的特殊性：道德论证有其独特形式，不同于纯粹的工具理性或审美的论证。

契约论在人工智能伦理中的价值在于其对程序正义和协商过程的重视。当人工智能系统的设计涉及多元利益相关者——包括开发者、用户、受影响群体以及更广泛的社会公众——时，如何确保这些利益相关者的声音得到公平对待？契约论传统提供了讨论这一问题的理论框架。同时，契约论对“同意”和“认可”的强调也有助于思考人工智能系统与人类用户之间的关系性质。

二、四大伦理流派在人工智能语境中的适用性分析

将上述四大伦理流派的理论框架应用于人工智能伦理问题，并非简单的“理论对照现实”的单向过程，而是一个需要双方互相调适的复杂互动。一方面，传统伦理理论的概念资源和论证方法确实为人工智能伦理问题提供了有价值的分析工具；另一方面，人工智能系统的独特特征也对既有理论提出了新的要求和挑战。本节将分别考察四大伦理流派在人工智能语境中的适用性、贡献与局限。

2.1 功利主义视角下的人工智能伦理

功利主义为人工智能伦理提供了一种直接的计算框架。当人工智能系统需要在不同选项之间做出选择时——例如自动驾驶汽车在无法避免事故时如何在撞击行人和撞击护栏之间抉择——功利主义提供了一个明确的评价标准：选择那个产生最大预期净幸福（或最小预期总伤害）的选项。这种结果导向的分析方式在处理生命数量比较问题时尤其具有吸引力：若一种政策选择能够拯救更多生命、减少更多痛苦，那么其道德正当性便得到增强。

人工智能的发展实际上为功利主义计算提供了前所未有的精确化可能。效益分析（cost-benefit analysis）作为功利主义在公共政策领域的应用，长期以来面临数据收集和量化困难的问题。但人工智能系统产生的大量行为数据——从在线推荐系统的点击数据到城市交通流量的实时监测——为测量和预测行为后果提供了新的工具。理论上，如果能够准确计算每种选择方案对所有受影响者的幸福影响，人工智能伦理决策可以在功利主义框架下实现高度精确化。

然而，功利主义在人工智能伦理中的应用也面临根本性困难。首先是可计算性问题（the problem of calculability）。幸福、痛苦、偏好满足等概念是否可以被充分量化？不同的计算方式——例如谁的主观体验被赋予多大权重、未来的幸福是否应当折现、个体间比较是否可能——都会显著影响计算结果。当人工智能系统被要求在瞬间做出涉及生命安全的决策时，是否有时间进行充分的功利计算？其次是分配不公问题（the problem of distribution）。功利主义的总量计算可能掩盖不同群体之间的分配差异。例如，一项医疗资源分配算法如果仅关注总体救活人数的最大化，可能系统性地偏向年轻患者或富人，因为他们通常有更高的预期寿命或治愈率。第三是内在价值问题。功利主义将一切价值化约为幸福或偏好满足，但许多道德直觉认为某些事物具有不可还原的内在价值——人的尊严、历史的真实性、自然环境的完整——这些不能简单被计算为对幸福的影响。

2.2 义务论视角下的人工智能伦理

义务论为人工智能伦理提供了权利保护和底线约束的重要视角。在人工智能系统日益参与人类生活决策的时代，数据权利（data rights）和算法问责（algorithmic accountability）等议题的讨论往往隐含着义务论的前提：个人拥有不被侵犯的隐私权、不被歧视的平等权以及要求解释和救济的权利；人工智能开发者和运营者负有尊重这些权利的义务。

欧盟《通用数据保护条例》（GDPR）中“被遗忘权”（right to be forgotten）的设计便可从义务论视角得到理解：这一权利并非基于功利计算——认为允许人们删除个人信息将带来更大的社会幸福——而是基于对个人自主和尊严的尊重。即使数据删除可能带来某些不便或效率损失，只要这一权利被确认为基本权利，它便应当得到保护。类似地，当算法决策系统对个人产生重大影响时，义务论会支持个人拥有“获得解释权”（right to explanation）——不是因为解释能够改善决策结果，而是因为尊重个体作为理性存在者应当知晓影响其生活的决策理由。

义务论在人工智能伦理中的独特贡献在于其对程序正义和透明性（transparency）的强调。康德传统认为理性存在者应当被视为目的而非手段，这意味着人工智能系统在使用个人数据或做出影响个人的决策时，应当尊重个人的知情同意和自主选择。这种视角有助于批评那些以“优化用户体验”为名实则操纵用户行为的算法设计——即使这些设计可能增加总体使用时长和平台收益，也不应将用户仅仅作为实现商业目标的手段。

然而，义务论在人工智能伦理中的应用同样面临挑战。规则僵化问题在人工智能情境下尤为突出：不同于人类道德主体可以在具体情境中运用实践智慧（phronesis）灵活调整行为规则，人工智能系统如果被简单地编入固定的“不准伤害人类”等规则，可能在面对规则冲突时陷入困境。规则编纂困难是另一问题：人类道德规范中哪些是绝对的底线、哪些是可以权衡的考量？即使在人类伦理学中这一问题远未达成共识，将其转化为可机器执行的形式化规则更加困难。“机器人三定律”（Three Laws of Robotics）作为义务论思维的经典尝试，其内在矛盾和不完备性已被阿西莫夫（Isaac Asimov）自己在科幻小说中反复探讨。

2.3 美德伦理学视角下的人工智能伦理

美德伦理学为人工智能伦理提供了一种独特的反思视角。传统上，伦理学的关注点主要是人类行为者——人应当如何行动？但人工智能的发展提出了新的问题：人工智能系统本身是否可以成为道德主体？ 人工智能系统是否能够具有品格或美德？这些问题迫使我们重新审视伦理学的核心范畴。

从美德伦理学视角看，人工智能伦理的讨论不应仅限于人