机器学习在解决什么：问题类型与学习范式

机器学习试图回答一个朴素而关键的问题：当我们无法为任务写出足够可靠的“显式规则”时，能否让系统从数据与反馈中自行归纳规律，从而在新情境下做出合理预测或决策。它并不神秘，本质上是一套“以可度量目标为牵引、以数据为经验来源、以模型为可学习函数”的工程化方法论。理解机器学习在解决什么，首先需要明确它的能力边界：它擅长从大量样本中提取统计规律，但并不天然理解因果、常识与价值判断；它可以在既定指标下不断优化，却不保证指标本身就代表真实需求；它能在训练分布内表现出色，却可能在环境变化时脆弱失效。

机器学习问题的共同结构：输入—输出—反馈信号

从表面看，房价预测、垃圾邮件识别、客户分群、围棋对弈似乎毫不相干；但若抽象到“输入—输出—反馈信号”的层面，它们共享同一骨架：

• **输入（Input）**：系统可观测到的信息，如文本、图像、用户行为序列、传感器读数，记为 $x$。
• **输出（Output）**：系统要给出的结果，如类别、数值、排序列表、生成文本，记为 $\hat{y}$ 或动作 $a$。
• **反馈信号（Feedback）**：衡量输出好坏的依据，可能是人工标注的标签 $y$、系统构造的自监督目标、或环境返回的奖励 $r$。

模型学习可以概括为：选择一个函数族 $f_\theta$（参数为 $\theta$），使得在反馈信号定义的目标下，输出尽可能“好”。在监督学习中，“好”通常意味着预测接近标签；在强化学习中，“好”意味着长期累计奖励更高；在自监督学习中，“好”意味着对被遮蔽/扰动的信息预测更准确或对比一致性更强。

```mermaid graph TD A[输入 x] --> B[模型 f_θ] B --> C[输出 ŷ 或动作 a] C --> D[反馈信号: 标签 y / 结构目标 / 奖励 r] D --> E[优化器更新参数 θ] E --> B ```

上述统一框架带来一个重要结论：机器学习范式的差异，核心在于“反馈信号从哪里来、长什么样、如何定义好坏”。这比单纯背诵“监督/无监督/强化”更能帮助我们判断一个真实问题适合哪类方法。

> 关键提醒：如果一个问题无法给出稳定的反馈信号（例如目标不断变化、评价标准极不一致、反馈高度延迟且噪声巨大），机器学习往往难以落地；即便勉强训练出模型，也容易出现“看似有效、实际不可控”的风险。

五种学习范式：目标差异与典型适用场景

监督学习：以标签为准绳的预测问题

监督学习（Supervised Learning）使用成对数据 $(x, y)$，目标是学习从输入到标签的映射。其优化目标常写作经验风险最小化： $$ \min_\theta \frac{1}{n}\sum_{i=1}^n \mathcal{L}(f_\theta(x_i), y_i), $$ 其中 $\mathcal{L}$ 是损失函数：回归常用均方误差，分类常用交叉熵等。

• **反馈信号**：人工或规则生成的标签 $y$（通常成本较高，但语义清晰）。
• **常见输出**：连续值（回归）、离散类别（分类）、概率（置信度）。
• **适用条件**：标签定义明确，数据分布相对稳定，评价指标可量化。

现实案例（概念性示例）： 1）风控/信用评分：输入为用户画像与行为特征，输出为“违约概率”。模型可用逻辑回归、梯度提升树（如 XGBoost/LightGBM）等。指标常用 AUC、KS；上线目标是降低坏账率并控制误拒率。 2）质检视觉识别：输入为产品图像，输出为缺陷类别或缺陷概率。卷积神经网络在样本充足、标注一致时效果显著，但对光照、拍摄角度、产线变化敏感，需要持续监控分布漂移。

<!--tags: supervised task classification regression-->

无监督学习：在无标签中发现结构

无监督学习（Unsupervised Learning）只有输入 $x$，没有显式标签 $y$。它不直接回答“对/错”，而是试图捕捉数据的内部结构，例如相似性、低维表示、群体划分或异常点。

• **反馈信号**：来自数据本身的统计结构（例如“彼此相近”或“可压缩”）。
• **常见目标**：聚类、降维、密度估计、异常检测、表示学习。
• **适用条件**：缺乏标签或标签难以定义，但“结构本身”有价值。

现实案例：

• **客户分群（聚类）**：电商或银行常用聚类将用户分为若干类（高价值、价格敏感、流失风险等），用于差异化运营。注意：聚类结果的“业务可解释性”往往比数学指标更重要，需要与领域知识共同迭代。
• **异常检测**：工业传感器或网络安全日志中，异常样本极少且难以标注，无监督/半监督的异常检测可以先提供“可疑点列表”，再由专家复核。

<!--tags: unsupervised task clustering anomaly-->

半监督学习：少量标签 + 大量无标签

半监督学习（Semi-supervised Learning）介于监督与无监督之间：有一小部分有标签数据，外加大量无标签数据。核心思想是利用无标签数据的分布结构来“约束”决策边界，例如“相近样本应有相似预测”。

• **反馈信号**：少量真实标签 + 对无标签样本的伪标签/一致性约束。
• **常见方法**：伪标签（Pseudo-Labeling）、一致性正则化（如 FixMatch）、图半监督等。
• **适用条件**：标注昂贵但可获得少量高质量标签；无标签数据丰富且与目标任务分布一致。

现实案例：

• **医学影像辅助诊断**：专家标注成本极高，常见策略是用少量标注训练初始模型，对未标注影像生成伪标签并迭代精炼，同时引入严格的质量控制以避免错误累积。

<!--tags: semi-supervised task classification-->

自监督学习：自己给自己出题的表示学习

自监督学习（Self-supervised Learning）常被误认为“无监督学习的别名”，但其关键差异在于：它明确构造了一个监督信号，只是这个信号来自数据的内部变换，而非人工标注。典型做法包括：遮蔽一部分输入并预测被遮蔽内容（Masked Modeling），或构造正负样本对进行对比学习（Contrastive Learning）。

• **反馈信号**：由预文本任务（pretext task）自动生成的目标，如“预测缺失词/像素”或“判断两视图是否来自同一样本”。
• **价值**：学习通用表示（representation），再迁移到下游任务（分类、检索、生成）。
• **适用条件**：数据规模很大、标签稀缺或多任务需求强烈。

现实案例：

• **自然语言处理的通用预训练**：通过大规模文本自监督训练得到语言模型，再在问答、分类、抽取等任务上微调或提示（prompting）。
• **视觉表征预训练**：对比学习或遮蔽图像建模能显著提升小样本场景的下游性能，使得“少量标注也能用”。

自监督的一个现实意义是：它把“学习”拆成两步——先用廉价反馈学到通用能力，再用少量任务标签完成对齐。这也解释了为什么近年来的基础模型（foundation models）能够在多任务上表现突出。

<!--tags: self-supervised representation pretraining-->

强化学习：以长期回报为目标的序贯决策

强化学习（Reinforcement Learning, RL）研究智能体在环境中通过试错学习策略（policy），以最大化长期累计奖励。它与监督学习最大的区别在于：反馈（奖励）通常稀疏、延迟且与动作序列强相关；并且智能体的行为会改变后续观测到的数据分布（“边做边采样”）。

• **输入**：状态/观测 $s_t$（可以包含历史信息）。
• **输出**：动作 $a_t$。
• **反馈信号**：奖励 $r_t$，目标最大化期望回报 $G=\sum_{t=0}^\infty \gamma^t r_t$。
• **典型场景**：机器人控制、游戏对战、资源调度、竞价与策略优化。

现实案例：

• **广告竞价与流量分配**：动作是出价或投放策略，奖励与转化相关但通常延迟；需要在探索（尝试新策略）与利用（使用已知有效策略）之间权衡。此类场景还常叠加“安全约束”（例如预算、合规、体验），使得问题更接近“约束强化学习”或“离线强化学习”。

<!--tags: reinforcement-learning sequential-decision-->

任务类型：回归、分类、排序、推荐、生成

学习范式回答“反馈从哪里来”，任务类型回答“输出长什么样、评价怎么做”。现实系统往往把多种任务串联起来，例如推荐系统同时包含召回（检索）、排序（学习排序）、点击率预估（分类/回归）与内容生成（生成模型）。

回归：预测一个连续数值

回归（Regression）输出为连续值，如价格、温度、时长、需求量。常见损失为均方误差： $$ \mathcal{L}(\hat{y}, y)=(\hat{y}-y)^2. $$

• **代表算法**：线性回归、随机森林回归、梯度提升树、神经网络回归。
• **评价指标**：MSE/MAE、$R^2$、MAPE（对尺度敏感）。
• **常见陷阱**：极端值（outlier）影响大；数据泄漏导致“虚高效果”；时间序列中训练/测试切分不当导致乐观偏差。

<!--tags: task regression supervised-->

分类：预测一个离散类别或概率

分类（Classification）输出为类别或类别概率，如“是否欺诈”“是哪种故障”。

• **代表算法**：逻辑回归、朴素贝叶斯、SVM、决策树/集成树、深度网络。
• **评价指标**：准确率、精确率/召回率、F1、AUC；类别极不均衡时需谨慎选择指标。
• **常见陷阱**：只看准确率忽略误判成本；阈值选择与业务代价不匹配；训练集与线上分布漂移。

<!--tags: task classification supervised-->

排序：让“更相关”的排在前面

排序（Ranking）常见于搜索与推荐的最后一环：系统输出一个列表，用户通常只看前几项。排序任务的反馈往往来自点击、停留、转化等行为信号，这些信号受位置偏差（position bias）影响，因而“看见”不等于“喜欢”。

• **代表算法**：学习排序（Learning to Rank）的 pointwise/pairwise/listwise 方法；GBDT+LR、深度排序模型等。
• **评价指标**：NDCG、MAP、MRR；线上常看 CTR、转化率以及长期留存。
• **常见陷阱**：离线指标提升但线上不升反降（反馈噪声与偏差）；过度优化短期点击伤害长期体验。

<!--tags: task ranking supervised-->

推荐：在海量物品中找到“可能需要的”

推荐系统（Recommendation）可被拆解为“召回 + 排序 + 重排/策略控制”。其中，召回强调效率与覆盖，排序强调相关性与转化，重排强调多样性、约束与长期价值。

• **代表算法**：协同过滤、矩阵分解、因子分解机（FM/FFM）、图模型、深度匹配与排序网络。
• **评价指标**：Recall@K、NDCG@K、覆盖率、多样性；线上以 CTR、GMV、留存等为主。
• **现实观察**：在成熟业务中，推荐优化常以“百分点级”提升为目标，但对大规模平台而言，哪怕 1% 的 CTR 提升也可能带来可观收益；同时也更需要防范信息茧房与不公平曝光。

<!--tags: task recommendation ranking-->

生成：输出一段新的内容

生成（Generation）输出可能是文本、图像、音频或代码。与分类/回归相比，生成任务的“正确答案”不唯一，评价更复杂，往往需要结合自动指标与人工评估，或借助人类反馈学习（如偏好建模）。

• **代表算法**：自回归语言模型、序列到序列模型、扩散模型、生成对抗网络（GAN）等。
• **评价方式**：困惑度（文本建模）、BLEU/ROUGE（有限但常用）、人类偏好评测；图像可用 FID 等统计指标。
• **常见陷阱**：训练数据偏差导致输出偏见；事实性与可控性不足；在严肃场景中需要可追溯与安全约束。

<!--tags: task generation self-supervised-->

任务到算法：便于电子版跳转的导航表

下表既可作为纸书的速查页，也可作为电子版的超链接导航入口（点击任务名跳转到对应小节）。同一任务往往可由多种范式实现，选择取决于反馈信号与部署约束。

| 任务 | 常见范式 | 常用算法族 | 何时优先考虑 | |---|---|---|---| | [回归](#回归预测一个连续数值) | 监督 | 线性模型、树模型、神经网络 | 目标是数值预测，标签明确 | | [分类](#分类预测一个离散类别或概率) | 监督 | 逻辑回归、SVM、集成树、深度网络 | 需要可解释或高精度识别 | | [排序](#排序让更相关的排在前面) | 监督/弱监督 | 学习排序、深度排序 | 列表展示、只看前几项 | | [推荐](#推荐在海量物品中找到可能需要的) | 监督/自监督/强化 | 协同过滤、FM、图与深度模型 | 个性化、长期指标重要 | | [生成](#生成输出一段新的内容) | 自监督/人类反馈 | 语言模型、扩散模型 | 内容创作、对话、辅助写作 |

<!--tags: navigation task-to-algorithm-->

三个对比视角：选择范式时真正要问的问题

反馈信号的成本、噪声与偏差

• **监督标签**语义清晰但昂贵，且存在标注一致性问题。
• **行为反馈**廉价但偏差大（曝光位置、界面设计会影响点击）。
• **自监督目标**规模化最容易，但与下游目标存在“对齐鸿沟”。
• **强化奖励**最接近“决策好坏”，但延迟与稀疏会显著增加难度。

数据分布是否稳定：训练分布 ≈ 线上分布？

机器学习常隐含一个前提：训练与测试来自相同分布。现实中，季节性、产品改版、策略变更都可能造成分布漂移。对高风险场景，应把“监控漂移与再训练机制”视为系统的一部分，而非事后补丁。

可解释性、合规与安全约束

不少任务并非“效果越高越好”，还受到合规、隐私、公平与安全约束。例如信贷审批需要可解释理由；医疗建议需要审计与责任边界；生成内容需要避免泄露隐私与产生有害建议。选择算法时必须把这些约束前置到目标函数与评估流程中，否则“离线最优”可能在真实世界不可用。

术语对照表（纸书速查）

| 中文术语 | 英文术语 | 简要说明 | |---|---|---| | 监督学习 | Supervised Learning | 使用人工标签训练预测模型 | | 无监督学习 | Unsupervised Learning | 无标签，发现结构或表示 | | 半监督学习 | Semi-supervised Learning | 少量标签 + 大量无标签 | | 自监督学习 | Self-supervised Learning | 构造监督信号进行预训练 | | 强化学习 | Reinforcement Learning | 通过奖励学习策略与决策 | | 损失函数 | Loss Function | 衡量预测与目标差距的函数 | | 评价指标 | Metric | 用于评估模型好坏的量化标准 | | 分布漂移 | Distribution Shift | 训练与线上数据分布变化 | | 表示学习 | Representation Learning | 学习可迁移的特征表示 | | 学习排序 | Learning to Rank | 面向列表排序的监督学习方法 |

<!--tags: glossary-->

小结：用统一框架看清“机器学习能做什么”

机器学习并非某种固定算法，而是一套围绕“输入—输出—反馈信号”构建的优化范式：当反馈是人工标签时，它自然落入监督学习；当反馈来自数据内部结构时，它表现为无监督或自监督；当反馈来自环境奖励并且决策会影响未来数据时，它升级为强化学习。理解这一点，能够帮助我们在面对真实问题时先问对问题：反馈信号在哪里、代价如何、偏差多大、是否可持续获取；再决定是做回归、分类、排序、推荐还是生成，以及相应的算法族与评估指标。

下一步需要进一步回答的是：当我们选定了任务与范式，究竟“模型”在学什么、为什么能学到、又为什么会失效。随后章节将从损失函数、泛化与过拟合、特征与表示等角度，逐步建立理解机器学习算法原理的核心工具箱。