当代码成为法律

当代码成为法律

清晨的算法闹钟

张明睁开眼睛的那一刻，算法就开始工作了。

床头柜上的智能闹钟并非简单地按照设定时间响起。它根据张明前一晚的睡眠数据——这些数据由他手腕上的智能手环持续采集——计算出一个最佳唤醒时间。当闹钟响起时，张明正处于浅睡眠阶段，这让他感觉自然醒来而非被粗暴惊醒。这个看似贴心的功能背后，是一套复杂的睡眠分期算法，它通过分析心率变异性（HRV）和运动数据来判断用户所处的睡眠阶段。

但这仅仅是开始。

张明拿起手机，屏幕上的锁屏界面显示着今日天气、交通状况和几条新闻摘要。这些信息并非随机排列，而是经过算法个性化排序的结果。天气应用知道他讨厌雨天通勤，所以特意在降雨概率超过30%时提前推送提醒；新闻聚合平台根据他过往的点击行为，认为他更关注科技和财经新闻，于是将这类内容排在前列；甚至连他通勤路线上可能遇到的拥堵信息，都是导航应用根据实时数据和历史模式预测后主动呈现的。

洗漱完毕，张明走出家门。电梯里，他注意到轿厢内的数字屏幕正在播放广告——一幅精致的汽车海报。但这幅广告出现的频率和内容，都是算法根据这栋楼住户群体的特征精心挑选的结果。电梯广告系统会分析不同楼宇的人流特征、居住人群的消费能力，然后动态决定投放什么广告。对于这栋以年轻白领为主的公寓，系统判断他们正处于职业上升期，对入门级豪华车可能有兴趣。

张明走向地铁站的途中，手机震动了一下。一家咖啡店的应用推送了一条消息：“您常点的拿铁今日半价，还剩3张优惠券”。张明愣了一下——他确实常去这家店，但他从未明确授权这家应用获取他的位置信息并接收推送。算法通过位置数据的交叉分析，识别出他每天的通勤路线，进而推断出他的消费习惯，然后与商家合作进行了这次精准推送。

这不是偶然的贴心，而是数据挖掘的胜利。

被算法规划的人生

地铁上，张明打开工作邮件。一封来自人事系统的邮件引起了他的注意：公司将于下月开始采用新的绩效评估系统，该系统基于人工智能技术，能够实时分析员工的工作表现，包括代码提交频率、会议参与度、即时通讯响应时间等多个维度。邮件末尾写道：“新系统将帮助员工更好地了解自己的工作效率，并提供个性化的改进建议。”

张明盯着屏幕看了很久。他想起最近看到的一则新闻：亚马逊曾使用一套AI系统来追踪仓库员工的休息时间。这套系统能够自动生成解雇名单，理由是员工“效率低下”。尽管亚马逊后来澄清这只是辅助工具，最终决策仍由人类管理者做出，但算法的威慑力已经深入骨髓——工人们开始减少休息次数，甚至不敢在工作时间离开工位去上厕所。

这不是一个孤立的故事。在全球各地的呼叫中心、仓储物流企业、外卖配送平台，数以百万计的工人正生活在算法的实时监控之下。他们的每一个动作——登录系统、拿起耳机、按下拨号键、甚至语速的快慢——都被系统记录、分析、打分。这些分数直接决定了他们的工资、晋升机会，甚至是就业资格。

学者肖莎娜·祖博夫（Shoshana Zuboff）将这种现象称为“监控资本主义”（Surveillance Capitalism）。在她看来，这些科技公司正在以前所未有的规模采集人类行为数据，将其转化为预测产品，然后卖给广告主和企业客户。员工不是消费者，但他们同样被卷入了这场数据游戏——只不过他们的“价值”不是购买力，而是生产效率。

张明关闭邮件，打开了一个招聘应用。几天前，他更新了简历，希望寻找更好的职业发展机会。让他感到不安的是，此后几天，他频繁收到各种猎头的消息，而且这些职位描述都惊人地相似——几乎都是他目前从事的技术岗位。他开始怀疑：是自己的简历被“泄露”了，还是招聘平台在算法层面进行了某种定向推送？

他不知道的是，现代招聘平台早已不满足于简单的简历匹配。高级推荐系统会分析求职者的社交网络、在线行为、甚至打字习惯，来预测他们跳槽的可能性。对于那些被算法标记为“高潜力但低忠诚度”的候选人，系统会提前“锁定”，在他们真正产生跳槽念头之前，就将匹配的职位推送到他们面前。人找工作的时代，正在让位于工作找人的时代——或者说，算法定义工作的时代。

抵达公司后，张明开始工作。他注意到自己的开发环境中集成了代码审查工具，每次提交代码，系统都会自动检查代码质量、安全漏洞、性能问题，并给出评分。这个评分会影响他的“技术影响力”指标，进而影响年终考核。张明开始刻意改变自己的编程习惯——不是因为这些改变让代码更好，而是因为它们能让算法给出更高的分数。

他想起了一句话：我们以为自己在编写代码，实际上代码也在编写我们。

下班回家的路上，张明路过一家便利店，想买一瓶水。付款时，收银员推荐他办理会员卡：“办了卡积分能抵扣，还能享受会员价”。张明同意了——毕竟，积分听起来是个划算的交易。他不知道的是，从他填写手机号的那一刻起，便利店的数据系统就开始追踪他的一切消费行为：什么时候来、买了什么、支付方式是什么、是否使用优惠券。这些数据被整合分析后，算法会为每个会员绘制精细的消费画像，预测他们的需求，甚至预判他们可能对哪些新品感兴趣。

张明拿着矿泉水走出便利店，手机又震动了。一条来自某电商平台的推送：“您刚才购买的矿泉水正在热卖，同款产品加1元可换购一包纸巾”。张明看了一眼——确实是他常用的纸巾品牌。他犹豫了一下，点击了“去看看”。

算法赢了。

当代码开始“立法”

夜深了，张明躺在床上，却久久无法入睡。

他开始回想这一天发生的一切：闹钟唤醒他的时间、新闻推送的顺序、通勤路线上的拥堵预警、咖啡店的精准营销、工作中的绩效评估、消费时的会员推荐……所有这些看似中立的“服务”，背后都有一只看不见的手——算法——在操纵着他的选择，塑造着他的行为。

这些算法不是中立的工具。它们在执行着某种“规范”，只不过这种规范的制定者不是立法机关，而是科技公司；规范的载体不是法律条文，而是代码指令；规范的执行方式不是惩罚，而是塑造。

这是一个深刻的认知转变。传统意义上，法律是社会规范的主要载体。国家通过立法程序制定法律，法院通过司法程序解释法律，警察和检察机关通过执法活动执行法律。这套体系虽然不完美，但它建立在一系列基本共识之上：法律的制定需要经过民主程序，法律的执行需要遵循程序正义，公民有权知道法律的内容并在法庭上为自己辩护。

然而，当我们审视那些控制我们日常生活的算法时，这些保障几乎全部缺失：

• **透明度缺失**：普通用户无法知道推荐算法为什么把某条信息推送到他们面前。Facebook曾在内部文件中承认，其算法倾向于推送能引发用户情绪反应的内容——尤其是愤怒和恐惧。但用户从不知道这个机制的存在。
• **问责机制缺失**：当算法导致歧视性结果时，谁应该负责？2018年，亚马逊的AI招聘系统被曝出对女性求职者存在系统性歧视，因为它在训练过程中学习了男性主导的简历模式。但当这一丑闻曝光后，亚马逊解散了开发团队，并没有明确解释谁应该为此负责。
• **申诉渠道缺失**：当用户认为算法对其不公时，他们能做什么？信用卡公司可以因为算法评估而拒绝你的贷款申请，保险公司可以因为风险评分而提高你的保费，但你通常无法知道评分如何得出，更无法有效挑战这个评分。
• **民主参与缺失**：算法的设计决策——比如社交媒体应该优先推送什么内容、什么样的言论应该被限制——本质上是一种“立法”行为，但这个过程从未经过民主讨论。这些决策往往由科技公司的少数工程师在保密状态下完成，然后直接作用于数十亿用户。

法律哲学家朗·富勒（Lon Fuller）曾提出“法律的内在道德”（inner morality of law）概念，认为真正的法律必须满足八个标准：普遍性、公开性、明确性、一致性、可预期性、可行性、稳定性、以及官方行为与规则的一致性。用这些标准来审视现代算法系统，我们不得不承认：大多数算法系统在这些维度上都存在严重缺陷。

这并不意味着算法必然是“恶”的。但它确实意味着，我们正在经历一场深刻的权力转移：制定社会规范的权利，正在从公共领域向私人领域转移，从民主程序向技术精英转移，从可预测的法律框架向不可见的算法黑箱转移。

代码的“准立法权”：三个历史节点

要理解这场权力转移的本质，我们需要回顾技术发展的三个关键历史节点。它们共同构成了代码获得“准立法权”的演进路径。

节点一：互联网的诞生与协议之治

1969年，阿帕网（ARPANET）的第一份数据包在加州大学洛杉矶分校和斯坦福研究院之间传输。这标志着互联网的诞生，也开启了一场关于“代码治理”的漫长实验。

早期的互联网设计者大多是理想主义者。他们相信，网络应该是一个去中心化的系统，不受任何单一政府的控制。为此，他们设计了一套技术协议——TCP/IP、DNS、HTTP——来规范网络上的数据传输。这些协议不是法律，但它们的功能与法律惊人相似：定义什么是“合规”的网络行为，惩罚“不合规”的行为（比如伪造IP地址），并建立一套纠纷解决机制（比如域名争议解决机制）。

学者乔尔·奈德曼（Joel Reidenberg）将这种现象称为“lex informatica”——信息法。他指出，网络空间的规则不是由国家法律单独制定的，而是由技术标准、行业规范、平台政策等多重因素共同构成的。这些“规则”的制定者不是议员，而是工程师；它们的执行方式不是警察逮捕，而是系统拒绝服务。

互联网协议的成功催生了一种新的治理理念：代码即法律（Code is Law）。这个概念最早由法律学者劳伦斯·莱西格（Lawrence Lessig）在1999年提出。莱西格认为，在网络空间中，代码是规制人类行为的主要力量——它可以像法律一样激励或禁止某些行为，像市场一样通过价格机制引导选择，像道德规范一样通过声誉机制施加压力。

莱西格的洞见在今天看来更加深刻。他预见到，互联网平台正在成为新型的“立法者”。它们制定的“服务条款”和“社区准则”，实际上是一种私人的“法律体系”——决定什么内容可以发布、什么行为会被处罚、什么用户会被封禁。更重要的是，这些“法律”的执行是自动化的：通过内容审核算法，平台可以在几毫秒内删除违规内容，而无需任何人类判断。

节点二：大数据的崛起与预测性治理

如果说互联网协议奠定了“代码之治”的技术基础，那么大数据的崛起则将这种治理模式推向了一个新的高度：从规则执行到行为预测。

2012年，《连线》杂志发表了一篇影响深远的封面文章《大数据时代》。文章宣称：“数据的爆发式增长和廉价化，使得我们能够收集、存储、处理前所未有规模的信息，并从中发现隐藏的规律和趋势。这些规律和趋势，将使我们可以预测未来——无论是消费者会购买什么产品，还是公民会犯什么罪行。”

这种预测性思维很快渗透到社会的各个角落：

在商业领域，零售商开始使用“预测性库存管理系统”，根据历史销售数据、天气模式、甚至社交媒体情绪分析来预测需求。2013年，塔吉特百货（Target）的一起事件震惊了全美：该公司的大数据系统通过分析一位少女的购买记录，精准地预测出她怀孕了，并向她的家庭邮寄了婴儿用品优惠券——而她的父亲此前对此一无所知。这个故事揭示了大数据预测的可怕威力：算法比你更了解你自己，甚至比你更了解你不愿意承认的事情。

在公共安全领域，“预测性警务”（Predictive Policing）成为美国多个城市的标配。洛杉矶警察局于2011年启用的PredPol系统，能够根据历史犯罪数据生成“高风险区域”和“高风险时段”的热力图，指导警察巡逻。这些预测并非空穴来风——它们基于真实的犯罪模式和时空分布。但批评者指出，这种方法存在严重的“偏见放大”效应：历史上被过度执法的社区会被算法标记为“高风险”，从而招致更多的警察巡逻和更多的逮捕，形成一个自我强化的恶性循环。

在社会福利领域，美国多个州开始使用“算法风险评估工具”来决定被告是否应该被保释、囚犯是否应该被假释。这些工具声称能够通过分析被告的年龄、教育程度、犯罪记录等变量，预测其再次犯罪的可能性，从而为法官提供“客观”的决策依据。然而，ProPublica于2016年的一项调查揭露了其中的严重问题：这些算法对非裔美国人存在系统性歧视——他们被错误标记为“高风险”的概率几乎是白人的两倍。

大数据时代的核心特征是：从被动记录到主动预测。法律传统上是事后响应的——先有违法行为，才有法律制裁。但算法可以“预见”未来，在行为发生之前就施加影响。这种预测性治理打破了法律的基本逻辑：在证明有罪之前推定无罪。被算法标记为“高风险”的人，在实际犯罪之前就可能遭受更多的监控和限制——这不就是“预见性惩罚”吗？

节点三：人工智能的突破与自动决策

如果说大数据提供了预测的工具，那么人工智能则提供了执行的力量。

1950年，艾伦·图灵（Alan Turing）提出了一个著名的问题：“机器能思考吗？”这个问题开启了一个长达半个多世纪的探索。2016年，谷歌旗下的DeepMind开发的AlphaGo击败了世界围棋冠军李世石，标志着人工智能在特定领域已经超越人类。2022年，OpenAI发布的ChatGPT展示了大型语言模型的惊人能力——机器不仅能够处理数据，还能够理解和生成自然语言。

这些技术突破正在将“算法治理”推向极致：

第一，决策的自动化。 曾经需要人类判断的事情，现在可以由机器自动完成。贷款申请由AI审核，求职简历由AI筛选，新闻内容由AI审核，医疗诊断由AI辅助，甚至司法量刑也出现了AI的身影。2023年，美国一个州的地方法院使用ChatGPT来帮助撰写判决书——虽然只是辅助性质，但它预示着一个令人不安的未来：当AI能够生成法律文本时，人类的法律判断是否还有存在的必要？

第二，干预的精准化。 传统法律作用于行为层面——杀人者偿命、偷窃者受罚。但AI系统可以在更深层次上干预人类行为：通过分析用户的行为模式，算法可以识别出最有效的“说服”策略，然后针对性地推送内容，引导用户做出算法希望他们做出的选择。剑桥分析公司（Cambridge Analytica）的丑闻揭示了这种技术的黑暗面：他们通过分析Facebook用户的数据，建立心理画像，然后定向投放政治广告，影响了2016年美国大选和英国脱欧公投的结果。

第三，规训的隐蔽化。 法国哲学家米歇尔·福柯（Michel Foucault）曾用“全景监狱”（Panopticon）的比喻来描述现代社会的规训机制：在这种监狱中，囚犯不知道自己是否正在被监视，因此他们被迫自我监督，保持“合规”行为。数字时代的算法系统实现了类似的甚至更强的效果——只不过监视者不是狱卒，而是代码；囚犯不是罪犯，而是每一个网民。我们在使用互联网的过程中留下的每一个“痕迹”，都可能被收集、分析、归档。算法知道的比我们以为的要多得多，而这种知识本身就构成了一种权力——它可以预测我们，塑造我们，控制我们。

法律的回应：迟来的觉醒

面对算法日益增长的权力，传统法律体系终于开始觉醒。

2018年5月25日，《通用数据保护条例》（GDPR）在欧盟全面生效。这部被媒体称为“世界上最严格的隐私法”的法规，首次以法律形式明确了数据主体的一系列权利：知情权、访问权、更正权、删除权（“被遗忘权”）、限制处理权、数据可携带权、以及拒绝权。更重要的是，它引入了“解释权”——数据主体有权要求自动决策系统提供有意义的解释。

GDPR的出台标志着数据治理领域的范式转变：从“数据是新的石油”的掠夺式开发思维，转向“数据是基本人权”的保护主义思维。欧盟立法者认识到，在大数据时代，个人数据的收集和处理已经超出了传统隐私法的范畴——它关系到人的自主性、尊严，甚至民主本身。

然而，GDPR的实施效果参差不齐。其一，“解释权”在实践中几乎无法落实——现代机器学习系统的决策过程是一个“黑箱”，即使设计者也很难解释为什么系统会做出特定的决策。其二，GDPR的适用范围有限——它主要针对欧盟居民的数据，但对于那些在欧盟没有实体的外国科技公司，执法往往鞭长莫及。其三，GDPR的核心逻辑仍然是“同意模式”——只要获得了用户的“知情同意”，数据处理就是合法的。但在现实中，大多数用户根本不会阅读服务条款，即使阅读了也无法理解其含义，更不用说有效行使退出权。

面对这些挑战，各国开始探索更加根本性的法律改革：

美国方面，2023年，拜登政府发布了《关于安全、可靠和可信人工智能的行政令》，要求AI系统在进行高风险决策时必须接受独立评估，并要求AI公司提交安全测试报告。这是美国政府首次以行政命令的形式对AI系统实施监管。但批评者指出，这些要求缺乏法律强制力，而且行政令可以被未来的总统撤销。

中国方面，政府于2021年相继出台了《数据安全法》和《个人信息保护法》，建立了数据分类分级保护制度，并规定自动化决策不得利用个人信息进行不正当竞争。这些法规填补了数据治理的法律空白，但具体实施仍面临挑战。

国际层面，2023年，包括中国、美国、欧盟在内的28个国家和地区签署了《布莱切利宣言》（Bletchley Declaration），同意共同应对前沿AI系统带来的风险。但这份宣言缺乏具体的约束力，更像是一种政治表态。

学术讨论也在发生转变。法学界开始反思传统法律概念在数字时代的适用性：当决策者是一台机器时，“过失”的概念如何定义？当训练数据存在偏见时，开发者是否应该承担“严格责任”？当AI系统造成伤害时，受害者应该起诉谁——开发者、部署者、还是使用者？

这些问题没有简单的答案。但它们的提出本身就有意义：它们迫使我们重新思考法律的基本概念和价值，以适应一个由代码构成的世界。

人类与机器的权利边界

在我们结束这一天的叙述之前，让我们回到张明的故事。

那天晚上辗转难眠之后，张明做了一个决定：他开始认真阅读那些他以前从不关心的“隐私政策”和“服务条款”。他惊讶地发现，在那些看似标准的法律文本背后，隐藏着惊人的权力不对称：平台可以随时修改规则，用户只有“要么接受、要么离开”的选择权；平台可以将用户数据授权给第三方，用户却无法知道这些第三方是谁；平台在发生数据泄露时可以免责，用户却要承担信息被盗用的一切后果。

张明还开始使用各种“隐私保护”工具：广告拦截器、跟踪保护插件、加密通讯应用。他惊讶地发现，这些工具能够拦截的跟踪行为比他想象的要频繁得多——仅仅是打开一个网页，背后可能就有几十个第三方在尝试收集他的信息。

但张明也知道，仅靠个人的“自我保护”是远远不够的。隐私权不应该是一项需要公民自己争取的权利——它应该是一项基本人权，由法律来保障。这正是法律应该介入的地方：不是要求每个公民都成为隐私专家，而是建立一套制度框架，让科技公司为其行为承担责任。

更重要的是，我们需要重新思考“权利”的概念。在传统法律框架下，权利主要针对的是政府行为——公民权利限制国家权力的滥用。但数字时代揭示了一个新的现实：私人企业也可以对个人权利构成深刻威胁。当我们的一举一动都被算法追踪、分析、预测时，当我们的职业前景、消费选择、政治观点都可能被算法操纵时，权利的概念必须扩展——它必须覆盖人与算法之间的关系。

这是一个全新的法律领域。学者们用不同的术语来描述它：“数字权利”（Digital Rights