零基础多图详解图神经网络（GNN/GCN）【论文精读】
果冻三剑客123:
沐神讲的博客链接：https://distill.pub/2021/gnn-intro/
【回复】好人一路硕博[打call][打call][打call]
Hazel_Hazel:
老师，请问可以讲一下知识图谱的内容吗？[给心心]
【回复】KD是一个应用，你是想了解怎么将GNN用到KD上，还是是KD本身的一些关键技术？
【回复】回复 @跟李沐学AI :李老师，我也想了解怎么降GNN用在KG上面，KG的图感觉过于复杂没有一个抓手，求老师能给一些学习或者操作的思路
【回复】回复 @跟李沐学AI :我想了解的是知识图谱本身的一些知识。（和GNN是无关的）。多谢老师啦[打call]
不爱吃花椒的刺猬酱:
需要有一定的机器学习的背景。
图是一个非常强大的东西，但是它的强大也带来了很多问题：很难在图上做出优化，图一般比较稀疏，有效的在CPU、GPU、加速器上计算是一件比较难的事情；图神经网络对超参数比较敏感。
图神经网络门槛比较高，这些年吸引了很多人对他的研究，但在工业界上的应用还需要时间的积累。
很多图是交互图（既是优点（非常漂亮）又是缺点（门槛太高，有时用一个公式可以清晰的将其表达出来））。
1.什么是图？图的属性应该用向量来进行表示。对于顶点、边、全局都用向量来表示它的属性。
2.现实生活中的现象怎么表示成图，怎么对顶点、边、全局进行预测？
3.机器学习的算法用到图上有什么挑战？
4.定义GNN：GNN就是对属性做变换，但不改变图的结构。
5.属性有缺失可以做聚合操作，把边的数据拿到结点上面，补足缺失的数据。
6.GNN：每一层里面通过汇聚操作，把信息传递过来，每个顶点看邻接顶点的信息；每个顶点看邻接边的信息或全局的信息。在每一层上如果能对信息进行充分的汇聚，那么GNN可以对图的结构进行一个发掘。
7.实验：做了很多实验，可以看到参数对实验结果的影响。
【回复】因果推理，知识图谱 ---AI要有可解释性，图网络估计是目前最可能的路径了
【回复】回复 @AI小白的进击 :神经网络的每一个重大成就的发展，都有数学做支撑，提供解释性，其他的网络也是有可解释性的吧？
【回复】回复 @0107502790 :我觉得不妥，
1.相邻结点增大，那可能同一个点的两个相邻结点都增大，累乘效应较为明显，对于梯度传播，甚至计算上有危险
2.由于GNN已经采取只对于部分节点进行采样，那如果继续dropout，我觉得丢失信息太多了？
3.如果真的要dropout，我觉得不应该对相邻结点进行增大，而是对全图对应的U进行改变
意识原子:
老师有空能精读一下自己的论文吗哈哈哈，想了解一下厉害paper的作者写论文背后的故事！
【回复】回复 @跟李沐学AI :老师博士的那篇OSDI能安排吗
【回复】回复 @跟李沐学AI :期待[打call]
进击de煎饼果子:
我上班之余学习沐神课程，尚且刚学完上节又出新节。
要知道学可比讲和做视频花精力和时间少多了(may be)。再次感慨沐神之工作效率。我想我的学习列表里必须加入一些改进效率的方法论了，否则学都赶不上了。
【回复】其实也很容易，你时不时看一下手机里面哪个app一周用时超过4小时，然后删掉。我最近删的app是bilibili
【回复】回复 @跟李沐学AI :懂了，这就把B站删了，沐老师再见
【回复】回复 @阿萨大师 :其实那么那么容易，录一篇文章至少8个小时
LinZambo:
希望我们在李沐老师的指导下，不要当一个精致的利己主义者，而是去开源自己的技术，去分享自己的知识。[妙啊]
【回复】从分享大神视频开始[吃瓜]
夜罗的小破孩:
导师听说图神经网络是好方向，毅然决然让我们这一级走这个方向。但是我导之前完全没接触过机器学习[笑哭]
一切都是从零开始。我导还特别着急，急着让我们确定好某个小方向然后开始科研[笑哭]
【回复】图神经网络属于比较难做，好发论文的方向。比较难做就是数据预处理、模型设计，这些相比cv、nlp有数倍设计难度，故好发论文（新、难）。从出成果来看，follow 师兄的方向接着做才是研究生阶段好发论文的方法，如果没有师兄属于开荒阶段，切记把目标放低一点（尤其是导师也不太会的情况下）
【回复】回复 @没有色彩的西尔弗 :你这个评论真实的我想哭[大哭]
【回复】我也是从零开始。我导师之前都没怎么听说过GNN， 不过GNN这个方向是我定的， 自己选择的路含泪也要走下去[笑哭]
boardking_:
1. 前言 0:00
2. 什么是图 7:05
3. 图神经网络 23:18 (了解Node, Edge, Adjacency list直接跳到这)
4. 实验 41:12
5. 相关技术 50:11
6. 评论 1:00:29
【回复】谢谢你，目录侠[脱单doge]
小木屋Dooooh:
谢谢老师！还想听一下更多关于GCN的细节[星星眼][打call][给心心][给心心]蜘蛛侠小张:
沐神，请问GNN在信号时间序列的处理上会相较于CNN更有优势嘛？以及GNN有LSTM相关的循环机制嘛？谢谢！
【回复】一般time series数据用GNN少吧
【回复】回复 @跟李沐学AI :沐神，我做的是动态脑网络方面的研究，所以里面既会涉及脑区域的关联性问题也会涉及到时间序列的动态问题，想请教您，如果采用GNN可以去尝试哪些涉及思路呢？感谢！
【回复】建议你看一下京东的吴凌飞博士今年写的一篇GNN for NLP的综述，可能能解决你的问题。因为我个人感觉你的问题跟怎么做图表示有关，我不是专门做gnn的，所以我的知识水平不足以一两句话把这个事说清楚
Ericasam:
作者博文的写作方式：
1、首先介绍了什么是图？
1）图是一种将顶点、边向量化来表示不同样本之间的关系；
2）图在现实生活中是如何应用的？--- 怎么构建图、怎么利用图在一个数据集上进行预测；
3）机器学习和图的关系？--- 怎么把图和机器学习相互结合；
2、介绍了什么是GNN
1）直接给了一个简单的例子，介绍怎么用图构建神经网路（网络层的定义设置方法）；
2）怎么使用GNN做预测（介绍了聚合的操作）；
3）怎么使用聚合操作完成信息传递（图顶点与邻接顶点、邻接边的信息交互关系）；
3、实验部分单位年:
我发布了一篇笔记，快来看看吧
博客链接：https://distill.pub/2021/gnn-intro/ 1前言 选文原因： 图片数据结构、相对于文本序列更复杂 上一...
https://www.bilibili.com/h5/note-app/view?cvid=14016778&pagefrom=comment
涼宮春日-団長:
希望沐神能深入讲解一下这几个作者的另一篇介绍GCN的文章，也在distill上面，十分感谢！！！
观星客101:
不知沐神有无计划讲强化学习？期待中。。。[星星眼]
Hacken_Alan:
真的希望李沐老师可以再在GCN领域带大家多入点门，讲一两篇新paper！
