关于图神经网络的一些思考
最近在研究图神经网络(GNN),特别是异质图(Heterogeneous Graph)上的学习问题。整理一些初步的想法。
异质图 vs 同质图
很多人容易混淆“异质图”和“异构网络”的概念。在中文语境下:
- 异质图(Heterophilic Graph):相邻节点标签倾向于不同,同质度(homophily)低。典型例子如社交网络中的对立观点群体。
- 异构网络(Heterogeneous Graph):包含多种类型的节点和/或边。比如学术网络里有论文、作者、会议三种节点类型。
这两个概念经常被混用,但在方法论上完全不同。异质图上的挑战是如何处理低同质度带来的噪声传播问题;异构网络上的挑战是如何融合不同类型的语义信息。
Message Passing 的局限性
标准的 GNN 用 message passing 机制,本质上是在邻居节点间聚合信息。这在同质图上效果很好,但在异质图上会出问题——当邻居的标签和你不同时,聚合反而会引入噪声。
一些解决方案包括:
- 自适应权重:根据节点间的相似度动态调整聚合权重
- 高阶邻域:跳过直接邻居,用更远的节点来补充信息
- 对比学习:通过对比损失来学习对噪声鲁棒的表示
后续计划
接下来打算精读几篇最近的论文,特别是关于谱方法在异质图上的应用。等读完再写一篇详细的笔记。