2020-11-28
作者:互联网
最近参加了百度的图神经网络课程,在这里分享一些心得体会~
一、课程介绍
百度的PGL团队
day1:图学习初印象
图学习概述、入门路线
实践:环境搭建
day2:图游走类模型
DeepWalk、node2vec、metapath2vec、metapath2vec 变种模型
实践:DeepWalk, node2vec
day3:图神经网络算法(一)
GCN、GAT、消息传递机制
实践:GCN、GAT
day4:图神经网络算法(二)
图采样、邻居聚合
实践:GraphSage
day5:GNN进阶
ERNIESage, UniMP
实践:ERNIESage代码讲解
day6:新冠疫苗项目拔高实战,助力疫情防控!
参考链接:
斯坦福CS224W课程:http://cs224w.stanford.edu
图学习库 PGL:https://github.com/PaddlePaddle/PG
二、PGL框架介绍
Paddle Graph Learning (PGL)是一个基于PaddlePaddle的高效易用的图学习框架。
PGL框架上手比较快,使用框架最核心的步骤就是自己定义好消息传递就好了。
参考链接:
https://github.com/PaddlePaddle/PGL/blob/main/README.zh.md
三、一些心得体会
1. 关于一些图神经网络的基本理论的介绍,小斯妹老师介绍的真的非常通俗易懂,想入门图神经网络的小伙伴可以去学习一下,而且百度的aistudio还提供了超强GPU算力,非常适合我们进行高效的学习,力荐!!!
这是课程的视频链接:https://www.bilibili.com/video/BV1rf4y1v7cU
这是课程的ppt链接:https://github.com/PaddlePaddle/PGL/tree/main/course
这是aistudio的链接:https://aistudio.baidu.com/aistudio/index
2. 第一节课才知道,图神经网络竟然还能用在3D目标检测上。
点云:是通过激光点云获得的,每一个点包含有三维坐标,有些可能含有颜色信息或反射强度信息。
我们设置一个阈值,如果点云中某两个点的距离小于这个阈值,则视这个点之间存在边。这样我们就能构造出一张图了。
接下来,利用图神经网络,我们可以让它输出每个点所属的对象,并给出bounding box,这样就实现了3D目标检测,3D目标检测主要是用在自动驾驶上的,这对于后续自动驾驶场景中的路径规划和控制具有至关重要的作用。
3.还有一个有意思的应用是气味识别:
这个研究的主要是通过分子结构去预测气味。
4. 关于node2vec,是在deepwalk的基础上进行改进的,因为deepwalk只是相当于是一个可以回头的DFS,而node2vec既会进行DFS,也会进行BFS随机游走。
5.图卷积网络讲的挺形象的,跟着小斯妹老师的讲解真的是秒懂,之前看了一些相关的讲解也没搞太懂。
比如说公式里面的AH相当于是在图里面找出相邻的结点再进行消息传递。
而D矩阵的作用是给边加权,比如一个结点的度越大,说明它对你自己的传递的信息越有限,因此我们要将它的边权设置小一些。
6. PinSAGE 按照游走的经过的频率选取邻居,也就是说,可能原本是二阶或者三阶的邻居,但是经过它们的频率比较高,也可以把它们看作是1阶邻居。
7. 还有两个百度自研的模型,理解不是很深,这里就不说了,反正很厉害就对了。
四、比赛
一个利用图神经网络进行结点分类的比赛:
附上比赛链接:https://aistudio.baidu.com/aistudio/competition/detail/59
理论上用上百度的UniMP效果应该是最好的。
五、总结
经过了这次7日打卡营的活动让我对图神经网络领域有了比较深入的了解.也希望以后可以有更多类似的机会可以学习到更多深度学习的内容,也希望飞桨可以越来越好。
标签:11,aistudio,PGL,28,神经网络,2020,https,com,链接 来源: https://blog.csdn.net/sinat_38055666/article/details/110305804