论文解读（JKnet）《Representation Learning on Graphs with Jumping Knowledge Networks》

论文信息

1 Introduction

　　最近，图表示学习提出了基于 “邻域聚合” 一系列算法，这种算法严重依赖于图结构，本文提出了一种灵活应用不同邻域的架构 jumping knowledge (JK) networks。

　　此外，将 JK framework 与 GCN 、GraphSAGE 和GAT 等模型相结合，可以持续提高这些模型的性能。

2 Model analysis

　　除图属性信息很重要之外，图的结构对 “邻域聚合” 算法同样很重要。

　　同样一个图中，如果起点不同，random walk 相同步数之后的影响范围也就不同，random walk 多少步对应的就是卷积的迭代次数。

　　　　

　　如上图所示，(a)、(b)、(c) 中 均以 square node 为起点。（a）中 square node 出现在中心稠密处 [core]；（b）中出现在图边缘处【此时的 random walk 路径类似于树结构】；(c)  在 (b) 的基础上， random walk 的终点位于中心稠密处。

　　一般的 “邻域聚合” 的消息传递均采用平均聚合的方式，显然在中心稠密处容易产生信息丢失，即平均聚合了众多节点的特征，无法聚合真正有效的特征。