图神经网络导论：概念、范畴与学习范式

图神经网络（Graph Neural Networks, GNNs）是深度学习领域专门用于处理图结构数据的一类神经网络模型。其核心思想在于通过消息传递机制，将节点与其邻居的信息进行聚合，从而学习到蕴含图拓扑结构的节点表示。与处理欧氏数据（如图像、文本、序列）的经典神经网络不同，GNNs 直面“图”这一非欧几里得、拓扑可变、节点无序的基本计算对象。图数据普遍存在于现实世界：从社交网络、分子结构、知识图谱到交通网络、电路设计、蛋白质相互作用，其节点代表实体，边代表实体间复杂的关系。因此，GNNs 的研究范畴，本质上是探索如何将深度学习强大的表示学习能力，适配于这种具有关系本质的数据结构，实现从“个体特征学习”到“关系推理与结构理解”的范式跃迁。

要深入理解 GNNs 的独特性，必须首先厘清图数据与欧氏数据之间的本质差异。欧氏数据具有内在的网格状结构和明确的顺序/位置关系：图像中的像素排列在规则的二维网格上，文本中的单词序列具有时间或语法顺序，信号数据在时间轴上均匀采样。这种规则的几何结构赋予了卷积、循环等操作明确的数学定义和局部性假设（如平移不变性）。相反，图数据是非欧几里得的：节点没有固定的顺序，图的拓扑结构（连接模式）千变万化，且通常不规则、稀疏。一个分子的原子图与一个社交网络的朋友图，在节点数、连接密度、直径等方面可能截然不同。这种置换不变性要求模型对节点的排列不敏感，即对节点进行任意重编号，模型的输出（如图级预测或节点分类结果）应保持不变。同时，图数据的局部性由图的邻接关系定义，而非固定的网格距离。因此，无法直接将图像中的卷积操作（固定大小的核在规则网格上滑动）机械地移植到图上。GNNs 的核心设计哲学，正是围绕如何在这种无序、可变的结构上，有效、高效地聚合信息而展开。

图表示学习的核心挑战，可精炼为节点特征、边关系、图结构三者的联合建模。首先，节点特征是每个节点的属性信息，可以是离散的（如用户年龄分段、原子类型）或连续的（如用户兴趣向量、原子坐标）。模型需要利用这些初始特征作为起点。其次，边关系定义了节点间的连接，通常表示为邻接矩阵。但边并非总是无向且等权的：关系可以有方向（如“引用”、“关注”），可以有类型（如“朋友”、“同事”），甚至可以有动态时序。如何编码这些丰富的关系信息至关重要。最后，也是最具挑战的，是图结构本身。图的结构（如社区结构、中心性、路径、子图模式）蕴含着丰富的语义。模型需要能够捕捉多跳邻居信息（即通过多条边连接的远距离节点），理解图的全局属性，并具备泛化到未见过的图结构的能力（即归纳式学习）。这三者相互交织：节点的最终表示由其自身特征、直接邻居特征、以及整个图的拓扑共同决定。一个理想的 GNN 模型，应能协同优化这三者，使得学到的表示既能区分不同节点/图，又能对结构扰动具有一定的鲁棒性。

在学习范式层面，图领域经历了从传统机器学习到深度学习，再到自监督学习的范式迁移。监督学习是最直接的范式：给定带标签的节点（如社交网络中的用户性别）、边（如分子中的键类型）或整图（如分子性质预测），通过最小化预测损失来训练模型。这在标签充足时效果显著，但获取高质量图标签往往代价高昂。无监督学习旨在从未标注的图中学习通用表示，经典方法包括基于图嵌入的 DeepWalk、Node2Vec，它们通过随机游走生成节点序列，借鉴词嵌入思想进行学习。其目标是使结构上相似的节点在嵌入空间中距离相近。然而，这些方法通常分为“先嵌入后预测”两阶段，无法进行端到端优化。自监督学习是当前最活跃的方向，其核心思想是设计代理任务，从数据本身自动生成监督信号。对于图数据，常见的代理任务包括：图对比学习（如对同一图进行节点/边掩码、子图采样、图增强，拉近增强视图的表示，推远不同图的表示）、图重构（如预测被掩码的节点特征或边）、图属性预测（如预测图的某些统计属性）。自监督学习能够利用海量无标签图数据，学习到更具泛化性的表示，已成为 GNN 预训练和迁移学习的基石。

GNNs 已在众多领域取得突破性应用，彰显了其处理关系数据的强大威力。在化学与药物发现领域，GNNs 已成为分子性质预测、药物-靶点相互作用预测、分子生成的标准工具。例如，使用消息传递神经网络预测分子的量子属性（如 HOMO-LUMO 能隙），其精度可媲美昂贵的密度泛函理论计算，将计算时间从数小时缩短至毫秒级。在物理系统中，GNNs 被用于模拟粒子系统（如流体、刚体）的动力学，通过将粒子视为节点，相互作用视为边，模型能准确预测未来状态，甚至发现新的物理规律。在社交网络与推荐系统中，GNNs 通过聚合多跳邻居信息，能有效捕捉用户兴趣的传播效应，显著提升链接预测、社区检测和推荐精度。在知识图谱领域，GNNs 用于知识图谱补全，通过编码实体和关系的图结构，推理出缺失的事实链接。此外，在计算机视觉（场景图生成、点云分类）、自然语言处理（文本蕴含、语义角色标注）、程序分析（代码功能理解）等领域，GNNs 也展现出独特优势，证明了“图”作为一种通用计算范式的广泛适用性。

本章将作为全书的理论基石，系统性地构建图神经网络的分析框架。我们将首先严格定义图、图神经网络及其学习目标。随后，深入剖析图数据与欧氏数据的哲学与数学差异，论证为何需要专属的神经网络架构。进而，我们将图表示学习的挑战形式化，并回顾从图嵌入到现代 GNN 的演进脉络。接着，我们将细致梳理监督、无监督、自监督学习在图域的具体实现与最新进展。最后，通过精选的跨领域应用案例，具象化 GNN 的理论价值与实践影响。通过本章，读者将建立起对图神经网络研究范畴、核心问题与方法论体系的整体认知，为后续各章深入探讨特定模型、理论与应用奠定坚实基础。

图神经网络（Graph Neural Networks, GNNs）作为深度学习在非欧几里得数据上的重要扩展，其核心在于通过消息传递机制学习蕴含拓扑结构的节点表示。与处理图像、文本等欧氏数据的经典神经网络不同，GNNs 直面“图”这一计算对象——节点无序、拓扑可变、关系复杂。从社交网络到分子结构，从知识图谱到物理系统，图数据普遍存在，其节点代表实体，边代表关系。因此，GNNs 的研究范畴，本质上是探索如何将深度学习的表示能力适配于这种具有关系本质的数据结构，实现从“个体特征学习”到“关系推理”的范式跃迁。

图的数学本质与表示

图作为一种抽象数据结构，其精确定义为：一个图 $G$ 由节点集 $V$ 和边集 $E$ 组成，记作 $G = (V, E)$。节点 $v_i \in V$ 代表实体，边 $e_{ij} = (v_i, v_j) \in E$ 代表实体间的关系。根据边的性质，图可分为无向图（边无方向，$e_{ij} = e_{ji}$）和有向图（边有方向，$e_{ij} \neq e_{ji}$）。若边带有权重 $w_{ij} \in \mathbb{R}$，则称为带权图。在实际应用中，节点和边常附加属性信息：节点特征矩阵 $\mathbf{X} \in \mathbb{R}^{|V| \times d}$，其中第 $i$ 行 $\mathbf{x}_i$ 是节点 $v_i$ 的 $d$ 维特征向量；边特征可表示为张量 $\mathbf{E} \in \mathbb{R}^{|E| \times d_e}$。这种带有节点和边属性的图，通常称为属性图（Attributed Graph），是GNN研究中最常见的对象。

图的矩阵表示为算法实现提供了基础。邻接矩阵 $\mathbf{A} \in \{0,1\}^{|V| \times |V|}$ 是最基本的表示，其中 $A_{ij} = 1$ 当且仅当边 $(v_i, v_j) \in E$。对于带权图，$A_{ij} = w_{ij}$。度矩阵 $\mathbf{D} \in \mathbb{R}^{|V| \times |V|}$ 是对角矩阵，对角元素 $D_{ii} = \sum_j A_{ij}$ 表示节点 $v_i$ 的度（连接边数）。拉普拉斯矩阵 $\mathbf{L} = \mathbf{D} - \mathbf{A}$ 是图谱分析的核心工具，其归一化形式 $\mathbf{L}_{norm} = \mathbf{D}^{-1/2}(\mathbf{D} - \mathbf{A})\mathbf{D}^{-1/2}$ 具有更好的数学性质。这些矩阵编码了图的全局拓扑信息，是设计图卷积算子、分析图信号的基础。

图信号（Graph Signal）概念将图与数据联系起来：定义在节点上的特征向量 $\mathbf{x} \in \mathbb{R}^{|V|}$ 可视为图信号，其中每个节点的值代表该位置的“信号强度”。图卷积操作可理解为对图信号的滤波，类似于传统卷积对图像信号的操作。图傅里叶变换（Graph Fourier Transform）将图信号从节点域变换到图谱域（由拉普拉斯特征向量张成的空间），使得在谱域设计的滤波器可以对应到节点域的局部操作。这一理论为理解GNN的平滑性、频域响应提供了数学工具，也揭示了图卷积与经典卷积的深刻联系：两者都是通过基函数（傅里叶基或小波基）的线性组合来实现局部加权平均。

图数据与欧氏数据的本质差异

理解图数据与欧氏数据的差异，是把握GNN设计动机的关键。欧氏数据（如图像、文本、序列）嵌入在规则的低维流形中，具有内在的几何结构：图像像素排列在二维网格上，文本单词按时间或语法顺序排列，时间序列在均匀采样的时间轴上。这种规则的几何结构赋予了经典深度学习模型明确的归纳偏置（inductive bias）。卷积神经网络（CNN）利用平移不变性（translation invariance）和局部性（locality）：同一卷积核在图像不同位置共享参数，且仅关注局部感受野。循环神经网络（RNN）利用时序连续性：当前状态依赖于前一状态。这些偏置源于欧氏空间的度量和群结构。

图数据则处于非欧几里得空间，缺乏这些先验几何结构。其核心差异可归纳为三点：

1. 置换不变性（Permutation Invariance）与无序性。图中节点没有天然的顺序，对节点进行任意重编号不应改变图的语义。形式化地，设 $\pi: V \to V$ 是节点的置换（双射），则图 $G = (V, E, \mathbf{X})$ 的置换 $\pi(G) = (V, \{( \pi(v_i), \pi(v_j) ) | (v_i, v_j) \in E \}, \mathbf{X}_{\pi})$ 应具有相同的语义。因此，GNN的输出必须对节点置换不变：对于节点分类，预测标签不应随节点重编号而改变；对于图分类，图级表示应保持不变。这一要求排除了使用全连接层直接处理节点特征（因其依赖节点顺序），也意味着模型必须通过聚合操作（如求和、均值）来消除节点顺序的影响。

2. 不规则性与可变拓扑。欧氏数据的结构是固定的：$32 \times 32$ 图像总是有1024个像素，且每个像素有固定的邻居（上、下、左、右）。图结构则高度可变：节点度数（邻居数量）可以从1到数千不等；图的直径、密度、社区结构千差万别。这种不规则性导致传统CNN的卷积核（固定大小、规则形状）无法直接应用。在图上，“局部”由邻接关系定义，而非欧氏距离。一个节点的“邻居”可能只有几个，也可能有成千上万个，且邻居间可能互不相连。这种可变性要求模型能够处理不同规模的邻域，并适应不同的局部结构模式。

3. 规模与稀疏性。现实图通常规模巨大（社交网络可达亿级节点）且极度稀疏（平均度数很小）。例如，在Facebook社交图中，平均每个用户约有200个好友，而总用户数超过20亿，邻接矩阵的填充率不足 $10^{-7}$。这种稀疏性要求模型计算高效，避免显式存储或操作稠密矩阵。同时，大规模图常需分块处理或采样，引入额外的近似误差。

这些差异意味着，不能简单地将CNN或RNN“搬到”图上，而必须发展出尊重图本质特性的新架构。GNN的设计哲学正是围绕消息传递（Message Passing）这一核心范式：每个节点通过聚合其邻居的信息来更新自身表示，从而在迭代中捕获多跳邻域的结构信息。这种机制天然满足置换不变性，且能适应任意拓扑结构。

图表示学习的核心挑战

图表示学习的目标是学习一个映射函数 $f: G \to \mathbf{Z}$，将图（或其部分）映射为低维向量表示 $\mathbf{Z}$，使得这些表示能有效服务于下游任务（如分类、预测、生成）。这一目标面临三重挑战的耦合：

节点特征的异质性与缺失。节点特征可能来自不同模态：社交网络用户可能有文本描述、图像头像、行为统计；分子中原子有类型（离散）、坐标（连续）、电荷（连续）。特征维度、分布、缺失模式各异。如何设计统一的编码器处理异质特征？如何处理大规模图中常见的特征缺失（如新用户无历史行为）？早期方法常将离散特征（如原子类型）通过one-hot编码后输入，但这导致维度爆炸且无法捕捉语义相似性（如碳和硅都是非金属）。现代GNN常结合预训练词嵌入（处理文本）或连续值编码（处理数值）来缓解。更根本的挑战是：节点特征本身可能不完整或具有噪声，模型需在图结构的约束下进行特征补全与去噪。

边关系的丰富性与动态性。边不仅存在与否，还有方向、类型、权重、时序。在知识图谱中，边关系有“出生于”、“工作于”、“是...之父”等数百种类型，称为多关系图（Multi-relational Graph）。在交通网络中，边权重代表流量或速度，且随时间变化。在分子图中，边代表化学键（单键、双键、三键），具有明确的化学语义。如何编码这些丰富的边信息？早期GNN（如GCN）将图视为无向无权图，将所有边同等处理，丢失了大量信息。后续工作引入边特征（如RGCN为每种关系设独立变换矩阵）、方向编码（如GAT通过注意力权重隐式学习方向重要性）、时序建模（如TGAT使用时间衰减函数）。对于超图（Hypergraph，边连接多个节点），需设计更高阶的消息传递。边关系的建模直接决定了模型能否捕获正确的语义关联。

图结构的复杂性与尺度问题。图结构包含多层信息：局部结构（节点 immediate 邻居的构成）、社区结构（节点聚类）、全局结构（图的直径、中心性、核心-边缘结构）。有效表示需同时捕获多尺度结构。然而，图规模从几十个节点（分子）到数十亿节点（Web）不等，且结构高度不规则。这带来两个技术挑战：计算可扩展性——如何设计线性或近线性复杂度的算法？结构泛化性——模型能否泛化到未见过的图结构（如从训练分子预测新分子）？这要求模型具有归纳偏置，能学习到结构相关的通用规律而非记忆特定图。此外，图常存在同构（结构相同但节点标签不同）与同态（结构相似）问题，理想的表示应能区分非同构图，同时对微小扰动（如增删少数边）保持鲁棒。

这些挑战相互交织：节点特征的缺失可能通过图结构补全（如协同过滤思想）；边关系的复杂性增加了消息传递的设计难度；图规模限制了模型深度和表达力。GNN的发展史，可视为对这些挑战的逐步回应史。

学习范式的演进：从传统方法到自监督

图表示学习的学习范式经历了从无监督嵌入到监督GNN，再到自监督预训练的演进。每种范式都对应着对标注数据稀缺性的不同应对策略。

传统图嵌入方法（2010s初-中期）是图表示学习的先驱，其核心思想是通过定义节点邻近性目标，将节点映射到低维空间。DeepWalk（2014）将随机游走生成的节点序列视为“句子”，借鉴Word2Vec的Skip-gram模型学习节点嵌入，使结构上相近的节点（频繁共现于游走路径）在嵌入空间接近。Node2Vec（2016）通过调整随机游走的策略（平衡广度优先与深度优先），控制嵌入捕获同质性（homophily，相似节点相连）与结构性（structural equivalence，处于相似网络位置的节点）的倾向。LINE（2015）显式优化一阶邻近（直接连接）和二阶邻近（共享邻居）的目标，适用于大规模图。这些方法本质是浅层模型，通常仅学习节点嵌入，无法直接端到端优化下游任务；且“先嵌入后预测”的两阶段流程导致嵌入质量与任务目标可能错配。它们为图表示学习奠定了基础，但缺乏深度神经网络强大的特征提取能力。

监督图神经网络（2016-2018）标志着图深度学习时代的开启。GCN（2017）提出了图卷积的谱域一阶近似，通过堆叠多层实现端到端学习。监督信号直接指导表示学习，使模型专注于任务相关特征。在节点分类任务中，给定部分节点标签，GNN通过消息传递聚合邻居信息，优化交叉熵损失。在链接预测中，使用节点表示计算边存在概率，优化对数似然损失。在分子性质预测中，整图表示通过读出函数（readout，如求和、均值、最大池化）聚合后回归属性值。监督学习在标签充足时效果显著，但图数据标注成本极高：标记一个分子性质可能需要昂贵的量子化学计算；标记社交网络用户属性涉及隐私；标记知识图谱事实需要专家知识。这限制了监督GNN在标签稀缺场景的应用。

自监督学习（2019-至今）成为突破标签瓶颈的关键。其核心是设计代理任务（pretext task），从无标签图数据本身自动生成监督信号，学习通用表示。这些表示可通过微调适应下游任务。主要范式包括：

• **图对比学习**：对同一图生成两个“增强视图”（如随机丢弃节点/边、子图采样、属性掩码），通过对比学习使两个视图的表示接近（正样本对），同时使不同图的表示远离（负样本对）。代表工作如**GraphCL**（2020）系统研究了多种图增强策略；**MVGRL**（2020）结合节点级和图级对比；**GRACE**（2020）使用特征掩码和边dropout。对比学习能有效捕获图的不变特征，对数据增强的设计敏感。

• **图重构**：预测被掩码的节点特征（如**Graph Autoencoder**）、预测被删除的边（如**GAE**）、或重构整个邻接矩阵。这类方法直观但可能学习到 trivial 的解（如总是预测平均特征）。

• **上下文预测**：**GPT-GNN**（2021）将图生成式预训练引入图域，通过自回归方式预测节点/边的生成顺序，学习结构-特征联合分布。**GraphBERT**（2020）采用BERT的掩码语言建模思想，掩码节点或子图并预测。

• **代理任务设计原则**：好的代理任务应迫使模型学习对下游任务有用的表示。例如，预测图的某些统计属性（如聚类系数）可能帮助图分类；预测节点在随机游走中的上下文可能帮助节点分类。

自监督学习已从“预训练-微调”两阶段，发展到提示学习（Prompt Learning）等新范式，通过在输入