学习的本质:从经验中归纳规律
如果说第一卷的任务,是帮助读者建立关于人工智能的总地图,那么第二卷就要真正进入机器学习的内部。要理解现代 AI 为什么会突然变得强大,首先必须回答一个看似简单、其实极为关键的问题:机器究竟是如何“学习”的?这个词在日常语言中很容易制造误解。人们一听到“学习”,就会自然联想到学生读书、孩子模仿、成年人积累经验,甚至会不自觉把它与理解、意识、主动性联系起来。但在机器学习语境里,“学习”首先不是一种神秘能力,而是一种工程化过程:系统通过观察大量样本,不断调整内部参数,使自己在某个目标上表现得越来越好。
从最基本的角度看,机器学习做的事情可以概括为一句话:在经验数据中寻找可泛化的规律。所谓经验数据,就是系统过去观察到的样本;所谓规律,不是永恒真理,而是对任务有用的统计结构;所谓可泛化,则是说这种结构不仅适用于旧样本,也应尽量在新样本上继续成立。一个垃圾邮件分类器不是通过“理解”人类通信伦理来工作,而是通过大量历史邮件学习哪些词、哪些模式、哪些上下文更可能对应垃圾邮件;一个图像识别模型不是像人那样真正看见猫,而是在大量像素分布中学会某些与“猫”高度相关的结构特征。机器学习的本质,正在于把经验压缩成可操作的预测能力。
为了让这种学习发生,通常至少要具备四个要素。第一是数据,也就是系统可以观察的样本。第二是目标,亦即我们希望它学会什么。第三是损失函数,也就是用来衡量当前表现距离目标还有多远的尺度。第四是参数空间,即系统内部可以被调整的那部分结构。训练过程的本质,就是在给定数据和目标的条件下,通过不断最小化损失来寻找一组更优参数。换句话说,机器学习并不是凭空长出能力,而是在目标约束下,通过大量试错和调整,把原本模糊的模式逐步“压”进参数里。
理解这一点之后,就更容易明白为什么机器学习会有不同范式。最常见的是监督学习。所谓监督,不是有人站在旁边教机器,而是数据中带有明确标签。比如一张图片旁边写着“猫”,一封邮件旁边写着“垃圾邮件”或“正常邮件”,一条房产信息旁边附着成交价格。这时模型的任务很明确:给定输入,预测正确输出。监督学习之所以长期占据工业核心位置,是因为它与很多业务目标天然吻合。信用风险判断、疾病分类、销量预测、图像识别、语音转写、广告点击率预估,本质上都可以转化为带标签的输入输出映射问题。
但监督学习并不是机器学习的全部。现实世界中,大量数据其实没有干净标签。互联网文本大多没有被人逐句标注“这句话表达了什么意图”,视频数据也很少逐帧有人认真打标签,企业内部日志更不可能全部被精确解释。于是,无监督学习就试图在没有明确答案的情况下,从数据本身挖掘结构。聚类、降维、异常检测、主题发现,都属于这一范畴。无监督学习更像是在问:这些样本之间天然有哪些相似性?它们是否可以被压缩成更低维的表示?哪些模式是常态,哪些是异常?虽然它没有监督学习那样直观的“标准答案”,却在理解数据结构、发现隐含模式和构造表示方面非常重要。
与无监督学习相邻、并在大模型时代格外重要的是自监督学习。它之所以关键,是因为它提供了一种在海量无标签数据上构造训练目标的方法。简单说,自监督并不是没有监督,而是监督信号由数据自身生成。例如,语言模型通过“预测下一个 token”学习语言结构;图像模型可以通过恢复被遮挡区域学习视觉表示;音频模型可以通过片段重建或对比任务学习时序特征。这种方法极大地改变了机器学习的资源结构。过去模型能力受限于人工标注成本,而自监督学习使系统可以从几乎无限的原始数据中先进行大规模预训练,再在具体任务上做少量适配。这正是大语言模型得以出现的重要前提之一。
另一条常被单独讨论的路径是强化学习。与前面几种主要处理“看样本做预测”的方式不同,强化学习关心的是智能体如何在环境中通过行动获得回报。它面对的问题通常不是“这张图里是什么”,而是“在当前状态下做什么动作更有利于长期目标”。游戏对弈、机器人控制、自动驾驶决策、广告投放、资源调度等场景,都可以抽象为强化学习问题。其难点在于,好的行动不一定立刻带来正反馈,很多结果要在多步之后才显现,因此系统必须学会在探索和利用之间权衡。强化学习让机器学习从静态预测走向动态决策,也让“学习”从识别规律进一步扩展为形成策略。
如果把这几种范式放在一起看,会发现它们并不是互相排斥的孤岛,而是现代 AI 经常混合使用的工具箱。一个大语言模型通常先通过自监督学习在海量文本上预训练,再通过监督微调学习遵循指令的风格,最后可能再借助强化学习或偏好优化,使输出更符合人类期望。一个自动驾驶系统可能用监督学习识别交通目标,用无监督或自监督方法构建场景表示,再用强化学习或控制方法优化行动策略。现实中的高级 AI 系统,很少只依赖单一学习范式,而更像是在不同任务层面组合多种学习机制。
这里还有一个极其重要的认识:学习不等于理解。一个模型可以通过海量样本把某些统计关系学得非常好,却未必以人类所理解的方式“知道”自己在做什么。它可能在图像分类上极准,却对轻微扰动异常脆弱;可能在语言续写上非常流畅,却在事实校验和长期逻辑上不稳定。因此,机器学习的成功首先意味着“在目标任务上形成稳定行为能力”,而不必然意味着获得了完整的世界理解。很多公众争论之所以混乱,是因为人们把行为上的有效性和哲学上的理解混为一谈。对工程而言,前者往往已经足够创造巨大价值;对理论而言,两者仍有巨大距离。
也正因为如此,我们更应该把机器学习视为一种关于经验组织的技术,而不是关于机器意识的神话。它解决的不是“机器是否像人那样思考”这样过于抽象的问题,而是更实际的问题:在给定数据、目标和约束下,机器能否学到一种足够好用的近似能力?从推荐系统到医学影像,从语音助手到代码补全,现代 AI 的价值并不是因为它突然拥有了灵魂,而是因为它学会了在大量任务上,从经验中稳定逼近规律。
因此,本章的核心结论可以表达得非常朴素:机器学习中的“学习”,本质上是一个在目标约束下,从经验数据中压缩有用结构、并把它转化为参数化能力的过程。监督学习、无监督学习、自监督学习和强化学习,只是这一总逻辑下的不同变体。它们对应不同的数据条件、目标形态和反馈机制,却共同指向同一件事:让系统在不确定世界中,通过经验而不是手写规则,逐步获得可用的行为能力。这种能力为何有时惊人、有时脆弱,接下来几章会继续拆开来看。