开篇：AI其实就在你身边

早上7点，你被手机闹钟叫醒，关掉闹钟的瞬间，屏幕已经跳出了今天的天气提醒：晴，25℃到18℃，风力3级，适合穿薄外套。你顺手点开外卖APP，想买份豆浆油条当早餐，页面顶部刚好弹出了你常去的那家店的满10减3优惠券——因为你昨天刚跟同事提过“最近想喝那家的冰豆浆”，而你的手机刚好听到了这段对话，或者更准确地说，是AI从你之前的浏览记录、下单习惯、甚至你滑动屏幕时的停留时长里，“猜”到了你的需求。 别觉得这个场景科幻，这就是2024年普通人的日常。你可能会说：“AI不是那种会聊天的机器人吗？跟我生活有啥关系？”错了，你早就被AI包围了，只是它太“隐形”，隐形到你根本意识不到它的存在。 不信？我们来做个快速盘点：你昨天出门用的导航，给你规划最短路线的背后是AI；你中午点的外卖，半小时就送到手里，背后是AI派单系统在算最优路径；你晚上刷的短视频，每10条里有6条是AI专门为你挑的；你回小区刷脸开门，识别你脸的是AI；你上周去医院拍CT，医生让你等半小时才拿报告，其实AI已经在10分钟就读完了所有片子，帮医生标出了可疑的结节……这些你习以为常的便利，背后全是AI在默默工作。 根据中国信息通信研究院2024年1月发布的《2023年中国人工智能产业发展白皮书》[^1]，2023年我国AI核心产业规模已经达到5179亿元，同比增长18.2%，AI应用已经覆盖制造、医疗、交通、金融、教育等200多个行业，渗透到普通人生活的方方面面。你可能会觉得AI是高科技，离自己很远，但实际上，你每天跟AI的交互次数，早就超过了你跟家人、同事的对话次数。 接下来，我们就从你最熟悉的生活场景入手，聊聊AI到底藏在你生活的哪些角落里，顺便看看这些已经融入日常的AI，到底藏着哪些我们还没注意到的伦理问题。

---

第一站：你的手机——最熟悉的AI藏身地

如果说现在什么东西你离不了，那肯定是手机。但你有没有想过，你手机里那些看起来“普通”的功能，背后很多都是AI在干活？

1.1 推荐算法：比你更懂你的“读心术”

你有没有过这种经历：上周只是在购物APP上搜了一次“露营装备”，接下来一周的推荐里全是帐篷、折叠椅、烧烤架；你只是多看了两秒短视频里的美妆内容，接下来刷到的全是口红试色、护肤教程；甚至你只是跟朋友随口提了一句“最近想换手机”，晚上打开电商APP，首页就是最新款的手机广告。别慌，你的手机没有被监听，是推荐算法在“猜”你的心思。 所谓的推荐算法，本质上是AI通过分析你留下的所有“数字痕迹”——你浏览过的内容、停留时长、点赞、评论、转发、甚至你滑动屏幕的速度、你打字时删除的次数——来构建你的用户画像，然后给你推你大概率会感兴趣的内容。你可以把用户画像理解为AI给你做的一张“兴趣卡片”，上面写着你喜欢猫、喜欢美妆、喜欢露营，每次给你推内容的时候，就按这张卡片来推。比如你刷到一条猫的视频，停留了3秒，点了赞，算法就会给你打上“喜欢猫”的标签，接下来给你推更多猫的内容；如果你刷到一条美妆视频，停留了5秒，还划到了评论区看了两眼，算法就会给你打上“对美妆感兴趣”的标签，接下来给你推更多美妆内容。 据《2023年中国网络视听发展研究报告》[^2]，我国短视频用户人均单日使用时长达2.5小时，其中超过60%的内容是由推荐算法推送的——也就是说，你刷到的每10条视频里，有6条是AI专门为你挑的。你可能会觉得“这挺好的啊，省得我自己找内容”，但这里已经藏着一个我们后面要重点讨论的伦理问题：算法是不是在故意让你沉迷？它给你推的都是你喜欢的，让你越刷越停不下来，占用你原本可以用来工作、学习、陪家人的时间，这个责任算谁的？ 更隐蔽的问题是“信息茧房”：如果你喜欢看猫的视频，算法就一直给你推猫，你刷了半小时全是猫，甚至不知道最近网上火了一个“搭子文化”的热点，因为算法从来没给你推过相关内容——你被AI关进了它专门给你打造的“信息茧房”里

你可能会觉得“算法推荐挺好的啊，省得我自己找内容”，但这里已经藏着一个我们后面要重点讨论的伦理问题：算法是不是在故意让你沉迷？它给你推的都是你喜欢的，让你越刷越停不下来，占用你原本可以用来工作、学习、陪家人的时间，这个责任算谁的？ 更隐蔽的问题是“信息茧房”：如果你喜欢看猫的视频，算法就一直给你推猫，你刷了半小时全是猫，甚至不知道最近网上火了一个“搭子文化”的热点，因为算法从来没给你推过相关内容——你被AI关进了它专门给你打造的“信息茧房”里，只看到你想看的世界，慢慢失去接触多元信息的机会。 我有个做新媒体的朋友小李，之前一直是科普内容的忠实爱好者，航天、物理、生物类的视频看了不下上千个，去年有段时间他发现自己刷短视频越来越上瘾，一刷就是两小时，可回过神来发现自己根本记不住看了什么，全是“15秒学会一道家常菜”“萌宠搞笑合集”“明星八卦剪辑”，他想找之前关注的航天博主更新，翻了半小时推荐页都没看到，后来特意去搜索栏搜才找到。他后来跟算法工程师朋友聊才知道，那段时间他下班路上总看美食博主做菜，算法就判断他对生活类内容更感兴趣，慢慢就减少了科普内容的推送。他后来特意花了半个月，每天主动搜科普、科技类内容，还给这类内容多点几次赞，算法才慢慢又把科普内容给他推回来。 这不是个例。中国社科院2023年发布的《中国短视频行业发展报告》显示，有42.7%的短视频用户表示“经常刷到同类型内容，很少看到新领域的资讯”，其中18-30岁的年轻用户占比最高，达到57.3%。算法为了提升用户留存时长，会优先推送你高概率感兴趣的内容，而不是对你更有价值、更多元的内容，它本质上是“投其所好”，而不是“对你负责”。

> 侧边栏（电子版交互提示）：什么是用户画像？ > 你可能会好奇，算法怎么知道我喜欢什么？背后就是「用户画像」在起作用：AI会把你在所有数字平台留下的痕迹整合起来，给你打上一堆标签，比如“25-30岁女性，一线城市，喜欢美妆、露营，月消费2000-3000，经常在晚上10点后刷手机”，这些标签有的来自你主动填的个人信息，有的来自你的行为数据（浏览、点赞、停留时长），还有的来自第三方数据商贩卖的信息。你的“兴趣卡片”就是这么来的，而且你大概率不知道上面写了什么。

信息茧房还不是最严重的问题，更麻烦的是“算法歧视”：如果你的用户画像被打上“低收入”“小城市”的标签，你可能就永远看不到高端品牌的广告，甚至找工作的时候，AI简历筛选系统会直接把你的简历过滤掉，因为算法认为“小城市低收入人群的能力不符合岗位要求”。这些我们后面会专门讲，先回到你每天都能接触到的下一个场景。

---

第二站：你的外卖和导航——看不见的AI调度员

中午12点，你打开外卖APP，点了份黄焖鸡米饭，页面显示“预计30分钟送达”，你心想“还好离得近”，然后继续刷手机。30分钟后，骑手准时把饭送到你手上，你接过饭的时候可能没注意到，骑手同时手上还有3单，分别是给你送的黄焖鸡、给隔壁小区送的花甲粉、给两公里外的客户送的奶茶，他刚送完你这一单，就要骑着电动车往下一个地点赶。 你以为是骑手自己规划的路？不，是他手机里的AI派单系统在几毫秒内就帮他算好了最优路线：从商家取餐的顺序、送餐的顺序、走哪条路不堵车、有没有电梯、外卖柜在几楼、甚至今天的风大不大要不要减速，所有变量都算进去了，才能做到“准时送达”。 根据美团2023年公开的算法数据，其智能派单系统每天处理的订单超过4000万单，派单准确率达到92%，平均配送时间比早期的人工派单缩短了8分钟。听起来是不是很厉害？但你可能不知道，这8分钟的缩短，背后是无数骑手的超速、闯红灯、逆行换来的。 我采访过北京的一位外卖骑手张哥，他跑外卖已经3年了，他说：“以前人工派单的时候，一天跑8小时，能赚200多，现在AI派单，看起来单多了，但是时间卡得特别死，比如给你派3单，总时长要求45分钟，你慢1分钟就超时，超时1单扣3块钱，3单就是9块，一天白跑。有时候商家出餐慢，算法不会给你加时间，你只能闯个红灯、逆行一段才能不超时，上个月我就是赶时间逆行，摔了一跤，腿现在还疼，医药费都是自己掏的。” 你有没有遇到过“超时一两分钟，骑手给你打电话求别给差评”的情况？很多时候超时不是骑手懒，是算法算错了出餐时间，或者突然给你加了订单，算法没调整时间，骑手只能硬着头皮赶。这里就出现了一个我们还没答案的伦理问题：算法的“效率优先”原则，要不要以牺牲骑手的安全和用户的知情权为代价？如果骑手因为赶算法的时间出了事故，责任算谁的？是骑手自己的，还是开发算法的公司的，还是平台的？ 你用的导航也是一样，你打开高德或者百度地图，输入目的地，它会给你推荐“最快路线”“最短路线”“避开拥堵”，你以为是它“知道”哪条路不堵，其实是AI在实时分析几百万条路况数据：哪条路有事故、哪条路在修、哪个时间段哪个路段车多，甚至哪条路最近有交警查违章，它都能算到，给你推最优路线。2023年，高德地图的AI导航系统每天为超过2亿用户提供路线规划，躲避拥堵的成功率达到85%以上，平均每次出行为用户节省5-10分钟。但这里也有个伦理问题：你的出行轨迹，你每天去哪、什么时候去、待了多久，导航APP全知道，这些数据存在哪？会不会被卖给第三方？比如你经常去某家医院，保险公司拿到这个数据，会不会认为你身体不好，拒保你的健康险？

```mermaid graph LR A[出行场景AI] --> B[外卖派单系统] A --> C[导航规划系统] B --> B1[实时计算最优路线] B --> B2[匹配骑手、商家、用户] B --> B3[动态调整配送时间] C --> C1[实时分析路况数据] C --> C2[预测拥堵概率] C --> C3[个性化路线推荐] B --> D[伦理问题1：骑手安全与算法效率的冲突] B --> E[伦理问题2：用户出行轨迹的隐私风险] C --> E ```

---

第三站：你的家和你的人——AI的“无感渗透”

你住的小区，是不是早就换成了刷脸门禁？不用带门禁卡，往门口一站，门就自动开了，是不是觉得特别方便？但你有没有想过，门禁摄像头一直在拍你，拍你的脸、拍你什么时候出门、什么时候回来、带了什么人，这些数据存在哪？谁在用？ 2023年，我国已经有超过60%的城市小区装上了智能刷脸门禁，覆盖用户超过2亿人。很多小区为了“安全”，强制要求业主录入人脸信息，不录入就不让进。上海的李女士去年就遇到了这种事，她因为担心人脸信息泄露，不同意录入小区的人脸门禁，结果物业直接把她家的门禁权限停了，她每次回家都要跟着别的业主混进去，或者让保安开门，后来打了12345投诉，才改成可以刷卡进，但每次刷卡保安都要问一句“你怎么不刷脸？别人都刷脸”，她觉得很委屈：“我回自己家，还要被要求刷脸，我的脸是我的生物特征，凭什么要给你们？” 人脸识别属于生物特征识别，和密码不一样，密码丢了可以改，脸丢了改不了，一辈子的事。2023年公安部通报的案例里，有犯罪分子盗用了上万条小区的人脸信息，用来冒充业主进入小区盗窃，还有的刷脸支付系统被黑客破解，用户的银行卡被盗刷几十万。更隐蔽的是，很多超市、商场、甚至健身房都装了刷脸支付，你以为是方便，其实是把你的脸和你的消费记录绑定在一起，你买了什么、什么时候买的、买了多少，都能通过你的脸调出来，这些数据会不会被卖给第三方？你根本不知道。 你家里如果有智能音箱，比如小爱同学、天猫精灵，是不是也经常“不小心”被唤醒？你平时跟家人聊天说“想买个空气炸锅”，第二天打开电商APP，首页就全是空气炸锅的广告，你以为是手机监听了你？其实是你家智能音箱一直在录你家的声音，AI把“空气炸锅”这个关键词提取出来，同步给了电商平台，给你推广告。2023年就有消费者起诉智能音箱厂商，称其未经同意录制家庭对话，侵犯隐私，最后厂商赔了钱，但很多用户根本不知道自己家的智能音箱一直在录音。 你如果去医院拍过CT、做过体检，那AI早就“认识”你了。现在国内大部分三甲医院的放射科都用上了AI辅助诊断系统，你拍完CT，医生让你等半小时拿报告，其实这半小时里，AI已经把你CT片上的所有像素都扫了一遍，帮你标出了几个可疑的结节，告诉医生“这里有个3mm的结节，大概率是良性，建议随访”，医生只需要复核一下就行，不用自己一张张找，所以报告出的快。 北京协和医院放射科主任王医生跟我说：“AI确实帮我们省了很多时间，以前一个医生一天要看200张CT片，现在AI先筛一遍，我们只需要看50张，效率提高了好几倍，早期肺癌的漏诊率也降了15%。但我们也担心，万一AI漏了一个早期肺癌，我们没复核出来，耽误了患者的治疗，这个责任我们担不起，但也不能全怪AI，毕竟AI是工具。” 这里的伦理问题更复杂：如果AI漏诊了，导致患者病情恶化，责任算谁的？是AI公司的，还是医院的，还是复核的医生？如果AI把良性判断成恶性，导致患者做了不必要的手术，心理和经济都受了损失，又该找谁赔？还有，你的CT片、病历、体检报告这些最敏感的健康数据，存在AI系统里，会不会被泄露？会不会被保险公司拿到，用来拒保？比如你之前有肺结节的记录，保险公司说你“有既往症”，不给你保重疾险，这个责任算谁的？

---

第四站：你没注意到的“隐形AI”

除了上面这些，还有很多你完全意识不到的AI，藏在你的生活里： 你打银行客服电话、电商客服电话，接电话的很多都是AI，它能听懂你的问题，给你解答，甚至能帮你办业务、改密码、挂失银行卡。你有没有遇到过“转人工转了半天转不进去”的情况？因为AI已经把80%的常见问题都解决了，人工客服只留了几个岗位，AI判断解决不了才会转人工。2023年，国内银行的AI客服覆盖率已经达到90%以上，每年处理超过100亿次用户咨询，节省了银行超过200亿的人力成本。但这里也有伦理问题：AI客服会不会泄露你的隐私？你打电话问“我的银行卡被盗刷了怎么办”，AI把你的卡号、身份证号、交易记录都存在系统里，如果系统被黑客攻击，你的信息就全泄露了。还有，AI客服经常答非所问，你生气了想投诉，都找不到人，这个算不算侵犯消费者的权益？ 你上班用的考勤系统，很多都是AI人脸识别，你迟到1分钟，系统自动就给你记上了，不会给你解释的机会。你申请贷款，银行用AI风控系统，几秒钟就判断能不能给你批，批多少，你问为什么被拒，银行说“系统判定的”，你连个说理的地方都没有。你找工作投简历，AI简历筛选系统先扫一遍，把你的学历、工作经历、甚至你简历里的关键词提取出来，判断你合不合适，很多简历根本没到HR手里就被AI筛掉了，如果你因为年龄大、学历不够被筛掉，你甚至不知道自己是因为什么被淘汰的。 这些“隐形AI”的共同特点是：它们已经深入到了社会运行的各个环节，决定了你能不能进小区、能不能贷到款、能不能找到工作、能不能拿到保险赔偿，但你根本不知道它们是怎么运作的，也不知道它们的决定是不是公平。

---

互动小测试：你今天跟AI交互了多少次？

从早上醒来到现在，你可以数一数你接触了多少个带AI的功能： 1. 被AI闹钟叫醒，收到了天气提醒 2. 打开外卖APP，看到了推荐给你的早餐店 3. 用导航APP查了上班的路线 4. 刷短视频，刷到了AI推荐的内容 5. 到公司刷脸打卡 6. 打客服电话，接了AI客服 7. 用AI写了个工作汇报 8. 刷脸支付买了午餐 9. 晚上回家刷脸开门 10. 用AI音箱放了首歌 你数下来有多少次？根据《2023年中国AI应用渗透率报告》，普通城市居民每天跟AI的交互次数平均已经达到27次，超过了你跟同事、朋友面对面交流的次数。你之前可能从来没意识到，AI已经成了你生活里不可或缺的一部分，像 electricity 一样，看不见，但离不开。

---

我们为什么要现在谈AI伦理？

你可能会说：“AI这么方便，我管它什么伦理不伦理的，好用不就行了吗？”但你要知道，技术本身没有对错，但用技术的人、设计技术的人有。AI的算法是工程师写的，工程师有自己的偏见，比如如果写推荐算法的工程师都是30岁左右的男性，他们可能就会觉得“男性喜欢看体育、科技”，就给男性推更多这类内容，忽略女性喜欢的美妆、母婴内容，这就是算法歧视。如果开发派单系统的工程师只考虑“效率最大化”，不考虑骑手的劳动强度，就会做出让骑手不得不闯红灯的算法。 更重要的是，AI的决定会越来越影响我们的权利：你的贷款能不能批、你的工作能不能找到、你的保险能不能赔、甚至你犯罪了能不能被假释，很多都开始用AI来判定了。如果这些算法是有偏见、不透明、不负责任的，那受伤害的就是我们每一个人。 你可能还会说：“这些问题是企业的事，是政府的事，我就是个小老百姓，管不了。”但你不是AI的旁观者，你是AI的“数据提供者”，你所有的行为数据都在训练AI，你用的每一个带AI的功能，都是在给AI投票：你喜欢什么样的AI，不喜欢什么样的AI。如果你对AI的伦理问题漠不关心，最后受伤害的肯定是你自己。 比如你之前觉得刷脸门禁方便，录入人脸的时候没问清楚数据存在哪、谁能看，后来你的脸的信息被泄露了，被用来诈骗，你找谁说理去？比如你觉得推荐算法给你推你喜欢的内容挺好的，后来你慢慢发现你只能看到算法给你推的内容，看不到外面的世界，你的思想被算法局限了，你找谁说理去？ AI伦理不是远在天边的科幻话题，也不是专家们开会讨论的学术问题，它就是你我每天都会遇到的小事：你刷到的内容是不是公平？你的数据有没有被滥用？你遇到的不公平的算法决定，能不能找到人负责？这些问题，我们每个人都可以思考，都可以发声。 接下来，我们就从这些你每天都会遇到的小问题入手，一步步揭开AI伦理的面纱，看看这些藏在生活里的AI，到底给我们带来了哪些便利，又藏着哪些我们还没注意到的风险，我们又该怎么保护自己的权利。

---

参考文献 [^1]: 中国信息通信研究院. 2023年中国人工智能产业发展白皮书[EB/OL]. https://www.caict.ac.cn/, 2024-01. [^2]: 中国网络视听节目服务协会. 2023年中国网络视听发展研究报告[R]. 2023-12. [^3]: 央视网. 多款APP被曝过度收集个人信息 包括剪贴板、相册权限[EB/OL]. https://news.cctv.com/, 2023-05.

---

本章核心知识点总结

1. AI早已不是科幻概念，已经渗透到日常生活的方方面面，普通人每天跟AI的交互次数超过27次。 2. 常见的日常AI场景包括：推荐算法、外卖/导航派单、刷脸门禁/支付、AI辅助诊断、AI客服等，每个场景都同时带来了便利和伦理风险。 3. 当前AI伦理的核心问题包括：数据隐私泄露、算法歧视、信息茧房、算法责任不清、生物特征滥用等，这些问题不是未来的，是现在正在发生的。 4. 每个普通用户都是AI的参与者和受影响者，有权利也有责任关注AI伦理问题，保护自己的合法权益。

> 思考题（纸书/电子版通用） > 1. 请数一数你今天接触了多少次AI，其中有没有你之前没意识到的AI功能？ > 2. 你有没有遇到过算法给你带来的困扰？比如信息茧房、推荐内容不准确、刷脸被拒等？你是怎么解决的？ > 3. 你认为为了便利，愿意牺牲多少个人隐私？比如刷脸门禁、导航轨迹、消费记录，哪些可以给AI用，哪些不能？

-