其他分享
首页 > 其他分享> > 深度学习:GCN(图卷积神经网络)理论学习总结

深度学习:GCN(图卷积神经网络)理论学习总结

作者:互联网

目录

来源

作用

原理

解释

核心

图卷积的核心思想是利用边的信息节点信息进行聚合从而生成新的节点表示
GCN的本质目的就是用来提取拓扑图的空间特征

图的概念

A波浪=A+I,I是单位矩阵
D波浪是A波浪的度矩阵(degree matrix),公式为
H是每一层的特征,对于输入层的话,H就是X
σ是非线性激活函数
-在这里插入图片描述
这个部分,是可以事先算好的,因为D波浪由A计算而来,而A是我们的输入之一

学习新特征

目标

从图的最初始特征X出发学习到更抽象的特征,比如学习到了某个节点的高级特征,这个特征根据图结构融合了图中其他节点的特征,就可以用这个特征用于节点分类或者属性预测。那么图网络就是要学习新特征,用公式表达就是:
在这里插入图片描述
k指的是网络层数,H(k)就是网络第k层的特征

提出

简单的神经网络层:

步骤

将上述学习分成三个部分:
变换(transform):对当前的节点特征进行变换学习,这里就是乘法规则(Wx);
聚合(aggregate):聚合领域节点的特征,得到该节点的新特征,这里是简单的加法规则;
激活(activate):采用激活函数,增加非线性。

首先这里的权重是所有节点共享的,类比于CNN中的参数共享;另外可以将节点的邻居节点看成感受野,随着网络层数的增加,感受野越来越大,即节点的特征融合了更多节点的信息。直观的图卷积示意图如下:
在这里插入图片描述

图卷积

上述的加法规则只是一个简单实现,其存在两个问题:

更进一步地,我们可以采用对称归一化来进行聚合操作,这就是论文1中所提出的图卷积方法:

这种新的聚合方法不再是单单地对邻域节点特征进行平均,这里:

这种聚合方式不仅考虑了节点i的度,而且也考虑了邻居节点j的度,当邻居节点j的度较大时,而特征反而会受到抑制。

定义了图卷积,我们只需要将图卷积层堆积起来就构成了图卷积网络GCN:
在这里插入图片描述

分类

图神经网路(GNN,Graph Neural Network)是一个庞大的家族,如果按照f分类,其可以分成以下类型:
在这里插入图片描述
可以看到GCN只是其中的一个很小的分支,我们上面所述的GCN其实是属于谱图卷积。

特点

==即使不训练,完全使用随机初始化的参数W,GCN提取出来的特征就已经十分优秀了!==这跟CNN不训练是完全不一样的,后者不训练是根本得不到什么有效特征的。

常见问题

-GCN网络的层数多少比较好?
论文的作者做过GCN网络深度的对比研究,在他们的实验中发现,GCN层数不宜多,2-3层的效果就很好了。

参考

GCN强烈推荐!解释原理都很好
GCN归一化解释
图卷积神经网络(GCN)入门

标签:node,卷积,矩阵,GCN,学习,特征,节点
来源: https://blog.csdn.net/zhe470719/article/details/120970737