近年来,图表示学习(Graph Representation Learning,GRL)的研究激增,其中包括用于深图嵌入的技术、卷积神经网络在图结构数据上的泛化,以及受置信度传播算法启发的神经消息传递方法。
图表示学习的这些进展为许多领域带来了最新的研究成果,其中包括化学合成、三维视觉、推荐系统、问答系统和社交网络分析。
当图表示学习和图神经网络成为网络数据分析与应用的热点研究问题,它们将深度神经网络技术用于网络结构的建模与计算,诞生了以DeepWalk、LINE 和node2vec 为代表的图表示学习技术。
以GCN 为代表的图神经网络,能够利用分布式表示方案实现对网络中的节点、边及其附带的标签、属性和文本等信息的建模,从而更好地利用网络结构进行精细建模和深度推理,相关技术已经被广泛用于数据挖掘、社会网络分析、推荐系统、自然语言处理、知识图谱等领域。
《图表示学习》一书作者:威廉·汉密尔顿(William Hamilton)是麦吉尔大学(McGill University)计算机科学系的助理教授,也是加拿大高等研究院(Canadian Institute for Advanced Research, CIFAR)AI 方向的主席、GraphSAGE 的作者。
他专注于图表示学习及其在计算社会科学和生物学中的应用。
近年来,他在机器学习和网络科学领域的顶级会议发表了20 多篇关于图表示学习的论文,他的工作获得了多个奖项的认可,其中包括2017 年美国科学院Cozzarelli最佳论文奖和2018 年美国斯坦福大学计算机科学系Arthur Samuel 最佳博士论文奖等。
请看下图:
浅紫色的部分大致梳理了卷积神经网络(Convolutional Neural Network,CNN)的发展历史,
浅黄色的部分大致梳理了循环神经网络(Recurrent Neural Network,RNN)的发展。
如果结合浅紫色的部分和浅黄色的部分,把卷积神经网络加上图模型,就形成了图神经网络(Graph Neural Network,GNN)的基本思想。
可以看出,图神经网络有很长的发展历史,是一个非常简单的机器学习算法在图上的一个自然延伸,这一波自然延伸的结果是必然有下一波跃迁。
从AI 的发展趋势来看,AI 将会从感知到认知逐步发展,在这个过程中,图表示学习和图神经网络很可能成为其中不可或缺的因素。
(鸣谢:电子工业出版社)
亲爱的数据:出品