当算法坐在审判席上

2013年8月的一个清晨，美国威斯康星州拉克罗斯市的天空刚刚泛起鱼肚白。28岁的埃里克·卢米斯从一间破旧的公寓中醒来，他不知道，这一天将彻底改变他的人生轨迹——不是因为他的所作所为，而是因为一个他从未见过的“存在”对他的审判。

那天，警察敲开了卢米斯的门。他们指控他与一起枪击案有关：在一场失控的派对对峙中，卢米斯被认定为驾车逃离现场的帮凶，导致一名女子腿部中弹受伤。卢米斯否认自己知道车上有枪，但证据对他不利。他很快被逮捕、起诉，随后被带上法庭接受审判。

如果这是一百年前的审判，故事的走向将清晰可辨：法官听取证据，陪审团做出判断，卢米斯的命运将由坐在审判席上的人类来决定。然而，21世纪的司法程序已经悄然发生了一场静默的革命。当卢米斯最终认罪时，决定他刑期长短的，并非只有法官的心证——还有一个被称为COMPAS的神秘系统的影子。

COMPAS，全称“矫正罪犯管理分析替代系统”，是美国一家名为“Northpointe”的公司于1998年开发的风险评估工具。它的设计理念听起来相当“科学”：通过分析被告的问卷答案和犯罪记录，预测其在未来再次犯罪的可能性。这种可能性被量化为一到十分的“风险评分”，分数越高，代表再犯风险越大。这个分数会被呈递给法官，成为量刑的参考依据之一。

卢米斯案的判决书上写着：法官参考了COMPAS系统的评估结果，认定卢米斯具有“较高的再犯风险”，因此判处他六年监禁和五年缓刑。这个结果让卢米斯的律师团队震惊不已。他们从未见过这个系统，也无从得知它是如何得出这个结论的。更令他们困惑的是，卢米斯本人从未被告知他的命运将与一个计算机程序挂钩。

这个案件很快引发了美国法律界的大地震。卢米斯的律师团队向威斯康星州最高法院提起上诉，核心诉求只有一个：被告人有权知道影响其判决的证据来源，而在量刑中秘密使用COMPAS算法，侵犯了卢米斯的正当程序权利。他们争辩道，如果判决的依据是一个“黑箱”，那么被告如何能针对性地进行辩护？

2016年7月，威斯康星州最高法院以4比2的投票结果驳回了卢米斯的上诉。法院认为，COMPAS只是法官参考的“众多因素之一”，并未取代法官的自由裁量权，因此并不违宪。然而，大法官们也在判决书中坦承，使用此类工具确实引发了“关于正当程序和偏见的问题”，这些问题“随着技术的演变将变得更加紧迫”。

这声警告在当时的舆论场中激起的涟漪，很快被更宏大的新闻浪潮吞没。但对于人工智能研究者、法律学者和公民自由倡导者来说，卢米斯案标志着一个时代的开启——一个算法开始坐在审判席上的时代。

COMPAS究竟是如何工作的？这个问题的答案，在卢米斯案引发关注后不久，就遭到了一家知名新闻机构的“拆解”。

2016年5月，新闻网站ProPublica发布了一份震惊业界的调查报告，标题简洁而有力：《机器中的偏见》。记者们获得了布劳沃德县（佛罗里达州）七千余名被告的COMPAS评分数据，然后与这些人在两年内的实际再犯记录进行比对。他们的发现令人不安。

报告显示，COMPAS对黑人被告的评分明显高于白人被告。具体而言，被该系统标记为“高风险”的黑人被告比例约为44.9%，而白人被告的这一比例仅为23.5%。然而，实际再犯数据显示，黑人被告和白人被告的再犯率几乎相同——都在大约25%左右。这意味着什么？意味着一个黑人被告被误标为“高风险”的可能性，几乎是一个白人被告的两倍。

更令人揪心的是反向的误判：当一个实际上确实会再犯的黑人被告被系统错误地评估为“低风险”时，ProPublica将其称为“假阴性”——系统漏掉了真正的危险。但数据显示，COMPAS产生“假阴性”的概率在黑人和白人被告之间大致相等。那么问题究竟出在哪里？

ProPublica的分析揭示了一个更深层的悖论。Northpointe公司为其系统辩护时声称，COMPAS在预测再犯的“准确性”上不分种族——也就是说，当它说某人会再犯时，这个人真的再犯的概率在各族裔间大致相同。然而，ProPublica的记者们指出，这种“准确性”的定义本身就存在问题。他们使用了一种被称为“假阳性率”的指标：所有被标记为“高风险”的人中，有多少实际上并未再犯？在这个指标上，黑人被告的处境明显更糟。

简言之，如果你是一个黑人，你更可能被系统错误地判定为“高风险”，从而面临更严厉的量刑建议——尽管你实际上并不会再犯。但如果你是一个白人，你同样可能被系统错误地判定为“高风险”，尽管你也不会再犯。从Northpointe所谓的“预测准确性”角度看，两种情况下系统的表现似乎是一致的；但从正义和公平的角度看，这种“一致性”掩盖了对黑人群体系统性的不公正对待。

这场争论在技术界和法学界引发了激烈辩论。Northpointe强烈反驳ProPublica的方法论，声称对方使用了错误的统计指标。而ProPublica则坚持自己的分析立场，同时指出问题的根源可能在于：COMPAS用于评估的137个问题中，许多与“风险”并无直接逻辑关联——比如“你有多少个朋友曾经被逮捕过？”“你有多少个亲戚曾经被监禁过？”——这些问题可能会系统性地惩罚那些来自弱势社区的被告，因为他们的社交网络中，犯罪记录的概率本就会更高。

无论这场统计争论的最终答案是什么，卢米斯案和ProPublica的调查报告共同撕开了一道口子，让人们第一次清晰地看到：当算法进入司法系统，一个本应基于证据和逻辑的领域，一种新的不公正正在悄然滋生。

让我们将视线从大西洋彼岸收回，转向欧洲。

与美国的“草根式”探索不同，欧洲对待司法中的人工智能，呈现出一种更为审慎甚至有些“家长式”的姿态。2018年，欧盟通过了《通用数据保护条例》（GDPR），这部里程碑式的法规虽然没有专门针对司法AI，但在数据保护和算法透明度方面树立了全球标杆。GDPR第22条明确规定，对于“完全基于自动化处理”的、会对个人产生重大影响的决定，个人有权不受该决定的约束。这意味着，如果一个算法系统独立做出了影响公民权利的裁决，当事人有权要求人工介入、提出异议。

这一条款被法律学者称为“人的尊严的堡垒”。它背后的哲学根基可以追溯到欧洲悠久的宪法传统：德国《基本法》第一条开宗明义——“人的尊严不可侵犯”；意大利宪法将“正义”定义为“法律面前的平等”；法国《人权宣言》宣称“法律面前人人平等”。这些条款共同构建了一种信念：人被尊重为一个自主的道德主体，不能仅仅被化约为数据点，任由机器来定义其命运。

然而，理论的原则与实践的落地之间，往往横亘着巨大的鸿沟。

荷兰是一个有趣的观察样本。2017年，荷兰政府委托一个委员会评估在社会福利欺诈检测中使用“风险画像”（risk profiling）系统的可行性。这个系统本意是提高行政效率、节省公共资金，但委员会的报告引发了公众的强烈担忧：如果一个人仅仅因为属于某个“高风险群体”（比如来自特定地区、有特定年龄范围）就被加严审查，这是否构成了对无辜者的歧视？

最终，荷兰政府采纳了委员会的建议：禁止使用纯粹的“群体画像”来进行个体决策；所有针对个人的不利措施，必须基于该个体的具体行为，而非其所属群体的统计特征。这一决定被欧洲其他国家和学者广泛引用，被视为在效率与公平之间寻求平衡的典范。

但荷兰的经验也揭示了一个困境：什么是“纯粹基于群体的画像”？一个考虑了被告社会经济背景的算法模型，是否就比一个完全不考虑这些因素的模型更公平？还是说，前者只是在用更精细的方式延续着同样的偏见？

让我们继续向东，来到中国。

与美国和欧洲相比，中国在司法领域引入人工智能的历程，走的是一条截然不同的道路。近年来，中国法院系统大力推进“智慧法院”建设，将人工智能技术嵌入审判辅助、类案推送、量刑建议等各个环节。其中最引人注目的实践之一，是上海、深圳等地法院试点的“刑事案件智能辅助办案系统”。

这些系统的功能设计颇为全面：自动分析证据链条的完整性、识别证据之间的矛盾、推送相似案件的判决参考、自动生成量刑建议……据报道，某些系统在试点期间已经能够将法官从大量重复性工作中解放出来，让他们有更多时间专注于案件的实质审理。

然而，与欧美同行相比，中国司法AI的发展面临的独特挑战之一，恰恰是透明度问题。2017年，最高人民法院印发了《最高人民法院关于加快建设智慧法院的意见》，明确提出要“推进司法数据共享和业务协同”。但对于这些算法系统如何运作、基于何种逻辑给出建议、学界和公众能否对其进行独立审查，目前公开信息相对有限。

当然，中国并非对算法透明性漠不关心。2021年以来，国家互联网信息办公室相继发布了《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》等法规，明确要求算法推荐服务提供者“保障用户的算法知情权和选择权”，并“向用户提供不针对其个人特征的选项”。2023年通过的《生成式人工智能服务管理暂行办法》更进一步，将透明度和可解释性列为核心原则。

但将这些原则具体落实在司法场景中，仍是一个复杂的命题。毕竟，量刑不是推荐一部电影或一首歌曲——它的后果是剥夺一个人的自由乃至生命。当一个AI系统对法官说“基于这些因素，我建议判处X年有期徒刑”时，我们是否有权追问：这个结论是如何得出的？如果追问，是否会暴露受保护的商业秘密？如果不追问，谁来为可能的错误负责？

这个问题没有简单的答案。但正是这种复杂性，促使我们必须更深入地审视：当算法进入司法系统，它究竟改变了什么？

回到美国，再看几个案例。

2014年，新泽西州启用了一个名为“PSA”（公共安全评估）的工具，用于决定审前羁押——即在审判前是否将被告关进监狱。PSA同样是一个风险评估算法，但它的一个独特之处在于：它完全是开源的。任何人都可以在网上下载它的完整技术文档，包括使用的变量、权重、计算公式。这与其他商业化的风险评估工具形成了鲜明对比——后者往往将算法视为商业机密，拒绝对外公开。

新泽西州的选择体现了一种理念：司法领域的算法，不应该是藏匿在黑箱中的神秘力量，而应该是可以被审视、被质疑、被改进的透明工具。法官、律师、被告甚至公众，都有权知道这个系统是如何工作的。

然而，开源并不能自动解决所有问题。2018年，斯坦福大学的一项研究分析了PSA在新泽西州的实施效果，发现了一个令人不安的现象：在法官被要求在使用PSA前必须先提交量刑建议的试点县，法官的判决与PSA建议的一致率显著更高。这意味着什么？一种可能的解释是，法官们在“锚定效应”的作用下，无意识地受到了算法建议的影响——即使他们知道可以忽略这个建议。另一种可能的解释是，那些在试点县的法官本身就更认同这种量化方法。无论哪种解释，都指向同一个结论：即使算法被完全公开，它对司法决策的影响方式，可能比我们想象的更加微妙和深远。

锚定效应是心理学中一个经典现象：人类在做决策时，会不自觉地受到第一个信息（“锚”）的强烈影响，即使这个信息与决策本身可能并不相关。在司法场景中，这意味着，即使一个算法系统明确标注“仅供参考”，法官们仍可能下意识地将这个分数作为决策的起点——偏离它需要付出额外的认知努力，而从众心理则倾向于保持一致。

这引出了一个更深层的哲学问题：我们真的能设计一个“中性”的算法吗？

让我们暂时离开具体的案例，思考一个理论问题。假设我们创造了一个完美的算法，它能够完美地预测一个人在假释后是否会再犯。这个算法本身没有偏见，它只是忠实地反映训练数据中的模式。但如果我们发现，这个算法对黑人被告的预测准确率更高——不是因为算法歧视黑人，而是因为种族不平等的社会结构使得黑人被告的“再犯风险”客观上更高——我们该怎么办？

在这种情况下，算法的“公平性”成了一个多维度、甚至自相矛盾的目标。计算机科学家已经证明了所谓的“公平性不可能三角”：一个预测系统在三个直观的公平性标准——校准性（相同预测分数的人应有相同的再犯率）、平衡性（相同实际结果的人应有相同的预测分数）、区分性（系统应该能区分高风险和低风险人群）——之间，不可能同时满足所有条件。你必须在它们之间做出取舍。

这意味着，“算法公平”本身就是一个需要人为定义和选择的价值判断，而不是一个技术上可以一劳永逸解决的客观事实。而这种价值判断，显然不应该由开发算法的工程师独自做出。

卢米斯案之后，类似的法律挑战此起彼伏。

2017年，威斯康星州一家地方法院受理了一起针对该州假释决策系统的诉讼。原告是一名假释申请人，他声称自己被拒绝假释的原因是州政府使用了一个名为“PSA”的算法，但这个算法既没有公开，其使用也没有经过正式立法程序。同样在2017年，纽约市民权自由联盟（NYCLU）对纽约警察局使用的预测性警务系统提起 FOIA（信息自由法）请求，要求公开该系统的算法细节，但被警察局以“执法豁免”为由拒绝。

这些案件背后，有一个共同的隐忧：当算法成为政府权力的延伸时，它是否应该受到与人类决策者同等的宪法约束？传统上，政府行为必须符合正当程序、平等保护和比例原则。但这些原则是针对人类设计的——正当程序要求告知、听证和申辩的机会，但一个“黑箱”算法如何提供这些？平等保护禁止基于种族的歧视，但当算法通过邮政编码或社交网络等“代理变量”间接歧视时，这算不算种族歧视？比例原则要求处罚与过错相称，但当算法的决策逻辑不透明时，如何审查这种比例性？

目前，美国法院在这些问题上的立场仍不清晰。部分法官主张，算法只是工具，工具本身不享有任何权利或承担任何义务，因此不适用针对“人”的宪法约束；另一些法官则坚持，如果政府使用算法来行使传统上只有人类官员才能行使的权力——比如定罪量刑、决定假释——那么这个算法就应该被视为政府行为的延伸，受到同等的宪法审查。

这种争论在2023年的一场案件中达到了一个小高潮。被告的辩护团队在证据开示程序中，要求检方提供其在审判中使用的AI图像识别系统的完整训练数据、验证报告和错误分析。检方认为这些属于“专有技术信息”，拒绝提供。最终，法官裁定检方只需提供系统的基本技术描述和准确性验证数据，无需提供完整的训练数据集。但法官也补充说，如果被告能够证明该系统可能对判决产生重大影响，法院可能会重新考虑这一裁定。

这个折中方案或许是当下美国司法体系面对AI时的典型姿态：既不完全拒绝算法的使用，也不赋予它与人类同等的法律地位；既要求一定程度的透明度，又不愿过度干预算法开发者的商业利益。这种模糊性，既是妥协的产物，也是不安的映射。

让我们再看看中国的情况。

2022年，最高人民法院发布了《关于规范和加强人工智能司法应用的意见》，明确提出要“确保人工智能司法应用始终在法治轨道上运行”。这份文件的措辞很有意思：它强调人工智能是“辅助”而非“替代”，是“帮助法官更好地司法”而非“取代法官独立审判”。

这种定位反映了中国司法系统对AI工具性质的基本认知：算法不是法官，而是一个更高效、更精准的助手。它的假设是，只要AI保持在“辅助”地位，就不存在算法取代人类判断力的担忧。

但这个假设本身是否成立，值得进一步探讨。

在许多实际应用中，“辅助”与“替代”之间的界限并不清晰。一个法官每天要看几十份案件材料，如果AI系统能够自动推送最相关的相似案例、标注证据链的漏洞、生成量刑建议——法官还有什么动力去独立思考？即使最终决定权在法官手中，这种“便利”本身是否会逐渐侵蚀法官的自主判断能力？

更棘手的是责任归属问题。如果AI辅助系统给出了错误的建议，法官采纳了，最终导致了冤案，责任在谁？是提供系统的技术公司？是部署系统的法院？还是做出最终决定的法官？传统的法律体系已经为人类官员的失职设计了追责机制，但当机器介入后，这种机制还能有效运作吗？

中国的一些学者已经敏锐地察觉到了这些问题。2023年，多位法学教授在学术期刊上撰文，呼吁建立“算法审计”制度，要求司法AI系统定期接受独立第三方的合规性审查；建立“算法解释权”制度，保障当事人在特定条件下获得算法决策的解释；建立“算法追责”制度，明确AI系统导致错误判决时的责任分配。这些建议目前仍在讨论阶段，但其背后的逻辑——在拥抱技术效率的同时，守住正义的底线——已经获得了越来越多的共识。

当我们放眼全球，会发现一个有趣的现象：无论在哪个国家、哪种法律传统下，关于司法AI的讨论，最终都会回到一个最基本的问题——正义是什么？谁来定义它？谁来守护它？

古希腊神话中，正义女神忒弥斯（Themis）被描绘为一位蒙着双眼、手持天平和宝剑的女性。蒙眼象征着不带偏见地审视证据；天平代表着对各方利益的平衡衡量；宝剑则意味着执行判决的强制力。这套象征体系延续了两千多年，成为西方法治传统的精神图腾。

然而，当算法开始坐在审判席上，这幅图景正在发生微妙的变化。算法当然不会偏心——它没有情感、没有偏见、不会疲劳。从这个角度看，它似乎是实现“蒙眼正义”的理想工具。但算法也不会同情——它不关心被告的成长背景、犯罪动机、悔改诚意，只关心可以被量化的变量。从这个角度看，它可能恰恰丢失了正义中最“人性化”的那一部分。

我们需要的，也许不是在天真的人类判断和冷酷的机器计算之间二选一，而是思考一个更深层的问题：在一个AI日益渗透进社会各个角落的时代，人类社会的正义观念将如何演进？我们是将算法视为实现传统正义目标的工具，在其帮助下更高效、更准确地分配正义？还是承认，算法正在创造一种全新的正义模式——一种基于数据、概率和模式的“统计正义”，它可能更有效率，但也可能与传统的人文主义价值产生张力？

这些问题没有标准答案。但正是这种开放性，构成了本书探讨的起点。

在接下来的章节中，我们将深入审视算法司法的各个面向：从风险评估算法如何量化人类的“危险性”，到预测性警务如何改变了犯罪治理的逻辑；从法官对AI建议的心理反应，到当事人权利在算法时代的新内涵；从欧美的监管实践，到中国的本土探索；从技术专家的解决方案，到公民社会的担忧与期待。我们将看到，在算法与正义的交汇处，有技术的问题，有法律的问题，但归根结底，是关于“人”和“社会”的问题。

卢米斯案已经过去了十多年。如今，全世界有数以百计的风险评估算法正在监狱、法院和警局中运行。它们被用来决定谁可以被假释、谁应该被羁押、谁需要更严密的监控。这些算法背后的技术和商业逻辑各有不同，但它们共同指向一个事实：算法正在成为司法系统中一个不可忽视的角色，无论我们是否愿意承认。

回到威斯康星州。卢米斯在服刑四年后被释放。他说，在监狱里，他常常会想：如果当初没有COMPAS的介入，法官会不会给他一个更轻的判决？如果他有机会质疑那个风险评分的依据，结局会不会不同？这些问题没有答案。但正是这种不确定性，揭示了算法进入司法系统最深层的隐忧：它不仅改变了决策的结果，更改变了决策的过程——一个本应透明、可质疑、可申诉的过程，变成了一个充满不透明和不确信的灰色地带。

正义的天平，曾经掌握在人类的手中。即使人类会犯错、会偏见、会徇私，但至少他们可以被质询、被追责、被评判。当算法加入这场审判，我们需要新的词汇来描述正在发生的事情，需要新的制度来应对正在浮现的风险，需要新的哲学来反思正在形成的正义观念。

这不是一个关于技术的问题。这是一个关于人类自身的问题。

在接下来的章节中，让我们一起踏上这场探索之旅。

第 1 章：当算法坐在审判席上

引言：改变命运的二十分钟

2013年8月的一个清晨，美国威斯康星州拉克罗斯市的天空刚刚泛起鱼肚白。28岁的埃里克·卢米斯从