论文解读（PPNP）《Predict then Propagate: Graph Neural Networks meet Personalized PageRank》

论文信息

1-Abstract

　　本文主要将 PageRank 算法引入到 GNNs ，提出了  PPNP 模型 和APPNP 模型。 

2-Introduction

　　问题：

• • 增大邻域范围，充分利用领域信息；【传播多层——消息传递机制的本质，也可以看做随机游走】
  • 解决过平滑问题（一般均为传播多层造成的过平滑）；

　　受 带重启随机游走（random walk）的影响，本文利用 personalized PageRank 代替随机游走 ，来增加传送到根节点的机会，以避免过平滑现象（主要是更多的考虑根节点的邻域），此外该模型允许使用更多的传播层数。【通过 $\text{Eq.4}$ 便于理解】

3 Graph convolutional networks and their limited range

　　半监督节点分类 GCN：

　　　　$\boldsymbol{Z}_{\mathrm{GCN}}=\operatorname{softmax}\left(\hat{\tilde{\tilde{A}}} \operatorname{ReLU}\left(\hat{\tilde{\tilde{A}}} \boldsymbol{X} \boldsymbol{W}_{0}\right) \boldsymbol{W}_{1}\right)  \quad\quad\quad(1)$

　　其中，$\hat{\tilde{\boldsymbol{A}}}=\tilde{\boldsymbol{D}}^{-1 / 2} \tilde{\boldsymbol{A}} \tilde{\boldsymbol{D}}^{-1 / 2}$。

　　存在的问题：【APPNP 所解决的问题 】

• • 不能使用更多的传播层，因为会造成过平滑；
  • 层数增加，参数量增加；

4 Personalized propagation of neural predictions

From message passing to personalized PageRank