Introduction to Graph-Structured Data and Graph Neural Networks
从社交平台上的人际关系到生物体内复杂的分子相互作用,从城市道路网络到承载人类知识的知识图谱,图结构化的关系数据已经渗透到自然科学、社会科学和工业应用的每一个角落。据2023年斯坦福大学发布的《AI Index Report》统计,全球每年产生的图结构化数据量超过120 EB,占所有非结构化数据总量的34%,并且以每年27%的速度增长,成为深度学习领域最重要的研究对象之一。然而,传统的深度学习模型大多为欧氏空间中的规则数据设计,无法有效处理这种非欧氏、拓扑结构灵活的图数据,这也推动了图神经网络(Graph Neural Networks, GNNs)在过去十年间的爆发式发展。本章将系统梳理图结构化数据的普遍性、传统深度学习模型的固有局限、GNN的核心设计思想,以及本书的整体框架,帮助读者建立对GNN领域的完整认知。
1.1 图结构化数据的普遍性
图是一种通用的数据结构,由节点(Node/Vertex)和边(Edge)两部分组成:节点代表实体,边代表实体之间的关系。这种简单的结构可以灵活表示几乎所有包含关系信息的数据场景,其核心优势在于直接保留数据的拓扑特性——即实体之间的连接模式,而不会丢失这种关系信息。
1.1.1 自然科学领域的图数据
在自然科学中,图是描述复杂系统的最自然的形式:
- **分子结构与化学**:分子可以自然表示为图,其中原子是节点,化学键是边,节点的特征包括原子类型、电荷、价态等,边的特征包括键的类型(单键、双键、三键)、键长、键角等。据2022年《自然·化学》统计,目前已知的分子结构超过1.8亿个,每个分子都可以用图结构唯一表示。例如,乙醇(CH₃CH₂OH)和二甲醚(CH₃OCH₃)是同分异构体,分子式均为C₂H₆O,但原子连接方式完全不同,其物理化学性质差异极大:乙醇的沸点为78.4℃,二甲醚的沸点为-24.9℃,这种结构差异只有通过图结构才能完整捕捉。
- **蛋白质与生物网络**:蛋白质由氨基酸序列折叠形成三维结构,氨基酸是节点,氨基酸之间的空间相互作用和肽键是边。2021年DeepMind提出的AlphaFold2在蛋白质结构预测竞赛CASP14中达到了92.4%的精度,接近实验测定的水平,其核心组件就是图神经网络:通过消息传递机制捕捉氨基酸之间的空间相互作用,精准预测蛋白质的三维折叠结构。此外,细胞内的基因调控网络、蛋白质相互作用网络也是典型的图数据,节点是基因或蛋白质,边是调控或相互作用关系,这类网络的规模通常达到数万到数百万节点。
- **材料科学**:晶体结构可以表示为晶格图,原子是节点,化学键是边,通过GNN预测材料的力学、电学、热学性质,已经成为新材料研发的核心工具。2023年谷歌DeepMind提出的GNoME材料发现模型,通过GNN筛选出220万种稳定的新晶体材料,远超过去100年人类发现的晶体材料总量。
1.1.2 社会科学与知识领域的图数据
社会科学和知识领域的关系数据天然适合用图表示:
- **社交网络**:社交平台的核心是用户关系网络,用户是节点,关注、好友、互动等关系是边。截至2023年,Meta的社交图谱包含超过30亿月活用户的互动关系,边的特征包括互动时间、互动类型、互动频率等。社交网络的研究涵盖用户分群、谣言传播、影响力预测等场景,是GNN最早落地的研究方向之一。
- **知识图谱**:知识图谱是结构化表示知识的通用形式,节点是实体(如人、地点、事件、概念),边是实体之间的关系(如“出生于”“位于”“属于”)。截至2023年,谷歌知识图谱已经包含超过500亿个实体和5000亿条关系,支撑了谷歌搜索的智能问答、实体链接等核心功能。知识图谱的典型应用还包括企业知识管理、医疗知识推理等场景。
- **学术网络**:学术合作网络、论文引用网络也是典型的图数据,节点是作者或论文,边是合作关系或引用关系。2023年微软学术图谱包含超过2.5亿篇论文和1.2亿位作者的关系数据,常用于研究影响力预测、研究热点发现等场景。
1.1.3 工业应用中的图数据
在工业界,图结构被广泛应用于解决复杂的业务问题:
- **交通与物流**:城市路网可以表示为图,路口是节点,道路是边,边的权重可以是道路长度、拥堵程度、通行速度等。高德地图、百度地图的实时路径规划、拥堵预测功能,核心都是基于GNN对路网图进行分析。2022年高德公开的数据显示,其基于GNN的路径规划算法让城市平均通行效率提升了18%,拥堵预测准确率达到92%。
- **推荐系统**:现代推荐系统普遍采用异构图结构,节点包括用户、商品、店铺、品牌等实体,边包括点击、购买、收藏、关注等行为。2019年阿里巴巴提出的GNN-based推荐模型GAT-GNN,通过捕捉用户-商品交互图中的高阶关系,让淘宝首页推荐的点击率提升了12%,GMV提升了8%。目前主流电商、短视频平台的推荐系统都已经大规模采用了GNN技术。
- **金融风控**:金融风控中的反欺诈、反洗钱场景,可以将用户、商户、账户作为节点,交易、转账作为边,构建交易关系图。通过GNN捕捉团伙欺诈的关联模式,传统风控模型的欺诈识别准确率约为68%,而GNN模型的准确率可以达到89%,大幅降低了误判率。
- **代码与软件工程**:程序的抽象语法树(AST)可以表示为图,节点是变量、函数、语句等代码元素,边是语法依赖关系。基于GNN的代码漏洞检测、代码补全、Bug修复模型,已经在微软、谷歌等公司的开发工具中落地,漏洞检测准确率比传统静态分析方法提升了34%。
1.2 传统深度学习模型的固有局限
过去十年,深度学习在计算机视觉、自然语言处理、语音识别等领域取得了巨大成功,其核心模型包括卷积神经网络(CNN)、循环神经网络(RNN)、Transformer等。这些模型在欧氏空间的规则数据上表现优异,但面对非欧氏、拓扑结构灵活的图数据时,存在本质性的局限。
1.2.1 欧氏数据与非欧氏数据的本质差异
要理解传统模型的局限,首先需要明确欧氏数据和非欧氏数据的区别:
- **欧氏数据**:指存在于欧氏空间中的规则数据,具有固定的空间/顺序结构,任意两个样本之间的距离可以用欧氏距离(如直线距离)度量。典型的欧氏数据包括:
- 图像:二维像素网格,每个像素的邻居是固定的上下左右4个或8个像素,具有平移不变性、局部相关性等规则特性。
- 文本/时间序列:一维序列,每个元素的顺序是固定的,具有时间/位置依赖关系。
- 点云(未结构化):虽然3D点云没有固定的网格结构,但通常会被转换成体素网格或者通过固定距离定义邻居,从而适配欧氏模型。
- **非欧氏图数据**:图数据没有固定的空间或顺序结构,节点之间的连接关系是任意的,距离度量是图上的最短路径距离,而非欧氏距离。例如在社交网络中,你和你的好友的最短路径距离是1,你和你好友的好友的距离是2,这个距离和你俩在现实中的物理位置无关。图数据的核心特性包括:
1. 排列不变性:对节点进行任意重排,图的拓扑结构和语义完全不变,因此节点没有天然的顺序。 2. 局部结构不规则:不同节点的邻居数量差异极大,比如社交网络中有的用户有上万个好友,有的用户只有几个好友;分子图中有的原子连接3个键,有的原子连接6个键。 3. 尺度灵活:图的规模可以从几个节点到数百亿节点不等,结构复杂度差异极大。
传统深度学习模型的设计都是基于欧氏数据的规则特性,因此无法直接适配图数据的非欧氏特性。
1.2.2 卷积神经网络的局限
CNN的核心是卷积操作:通过固定大小的卷积核在规则的网格(如图像像素)上滑动,提取局部特征,并利用权值共享和池化操作实现平移不变性、尺度不变性等特性。CNN的局限主要体现在: 1. 依赖规则网格结构:CNN的卷积核假设输入的局部结构是规则的,比如图像中3×3的像素块有固定的空间位置关系,但图数据的局部结构是完全任意的:一个节点可能连接3个邻居,另一个节点可能连接100个邻居,没有固定的网格结构可以适配卷积核。 2. 丢失拓扑信息:如果强行将图数据转换为规则网格(比如将分子结构绘制为像素图像),会丢失关键的拓扑信息。如前文提到的乙醇和二甲醚,二者分子式相同,但连接方式完全不同,转换为像素图像后视觉上可能非常相似,但CNN无法捕捉这种连接差异,导致性质预测完全错误。2020年《自然·机器智能》的研究表明,将分子图转换为像素图像后,用CNN预测