来源:AI科技大本营
近年来,图神经网络(GNNs)发展迅速,最近的会议上发表了大量相关的研究论文。本文作者正在整理一个GNN的简短介绍和最新研究报告的摘要。希望这对任何准备进入该领域或试图赶上最新技术进展的人有所帮助。
什么是图神经网络?
图是一种包含节点(顶点)的数据类型,这些节点(顶点)通过边相互连接,边可以是有向的,也可以是无向的。每个节点都有一组特征(这些特征可以表示节点的属性,也可以是一个热编码(One-hot)信息),而边定义了节点之间的关系。
在典型的GNN中,消息传递是由边在相邻节点之间上执行的。直观地说,消息是信息的神经编码,它从一个节点传递到与其连接的邻居节点。在任何神经层,节点的表示都是通过将其所有邻居的消息聚合到当前节点来计算的。经过多轮消息传递,可以获得每个节点的向量表示,可以解释为一种既描述节点特征信息又描述节点周围邻域图结构的嵌入表示。
GNN最新论文简介
1、XGNN:Towards Model-Level Explanations of Graph Neural Networks
使用神经网络的一个主要问题是它们常被当作黑匣子。由于缺乏神经决策背后的原因,它们不太可能用于一些关键性决策的情况。当前的方法使用梯度、稀疏和神经网络在前向传递过程中产生的激活用于解释其输出。然而,这并不是一个非常有效的方法,而且对于GNNs来说也是非常困难的。
这篇发表在KDD2020上的论文使用了一种新的方法XGNN,通过结合生成性方法与强化学习来解决这个问题。这种方法可以用来获取信息进行理解、验证,甚至提高训练好的GNN模型。
论文解析:
https://crossminds.ai/video/5f3375a63a683f9107fc6b72/
2、Neural Dynamics on Complex Networks
本文解决了复杂网络中连续时间动态捕捉的问题。作者提出了一种将常微分方程(ODEs)与GNNs相结合的方法来有效地模拟系统结构和动力学,从而更好地理解、预测和控制复杂网络。
论文解析:
https://crossminds.ai/video/5f3375a13a683f9107fc6b34/
3、Competitive Analysis for Points of Interest
接下来这篇论文是来自于Baidu Research,它是GNNs的一个实际应用,对在提供类似产品/服务(称为兴趣点,poi)的相邻企业实体之间建立消费者选择模型。为了预测poi之间的竞争关系,开发了一个基于GNN的深度学习框架DeepR,它集成了poi的异构用户行为数据、业务评论和地图搜索数据。
论文解析:
https://crossminds.ai/video/5f3375a13a683f9107fc6b31/
4、Comprehensive Information Integration Modeling Framework for Video Titling
阿里巴巴集团的这篇文章旨在利用消费者产生的大量产品评论视频,更好地了解他们的偏好,并向潜在客户推荐相关视频。这些视频的一个主要问题是没有正确标记。因此,论文提出了一种基于主题层次的、基于交互因素的二级视频摘要生成方法。
论文解析:
https://crossminds.ai/video/5f3369730576dd25aef288a8/
5、Knowing Your FATE:Explanations for User Engagement Prediction on Social Apps
Snapchat团队的这篇文章探讨了使用GNNs的社交媒体应用程序中用户的参与度。它提出了一个端到端的神经网络框架来预测用户参与度,这些因素包括好友数量和质量、用户发布内容的相关性、用户行为和时间因素。这是GNNs最直观的应用之一。
论文解析:
https://crossminds.ai/video/5f405f57819ad96745f802ba/
下面是CVPR/KDD/ECCV/ICML更多的关于图卷积网络的论文:
[CVPR 2020] Point-GNN: Graph Neural Network for 3D Object Detection in a Point Cloud
[CVPR 2020] Geometrically Principled Connections in Graph Neural Networks [CVPR 2020] SuperGlue: Learning Feature Matching With Graph Neural Networks
[CVPR 2020] Learning Multi-View Camera Relocalization With Graph Neural Networks
[CVPR 2020] Multi-Modal Graph Neural Network for Joint Reasoning on Vision and Scene Text
[CVPR 2020] Social-STGCNN: A Social Spatio-Temporal Graph Convolutional Neural Network for Human Trajectory
[CVPR 2020] Dynamic Multiscale Graph Neural Networks for 3D Skeleton Based Human Motion Prediction
[CVPR 2020] Dynamic Graph Message Passing Networks
[ECCV 2020] Graph convolutional networks for learning with few clean and many noisy labels
[ICML 2020] When Spectral Domain Meets Spatial Domain in Graph Neural Networks
[KDD 2020] Graph Structural-topic Neural Network
[KDD 2020] Towards Deeper Graph Neural Networks
[KDD 2020] Redundancy-Free Computation for Graph Neural Networks
[KDD 2020] TinyGNN: Learning Efficient Graph Neural Networks
[KDD 2020] PolicyGNN: Aggregation Optimization for Graph Neural Networks [KDD 2020] Residual Correlation in Graph Neural Network Regression
[KDD 2020] Spotlight: Non-IID Graph Neural Networks
[KDD 2020] XGNN: Towards Model-Level Explanations of Graph Neural Networks
[KDD 2020] Dynamic Heterogeneous Graph Neural Network for Real-time Event Prediction
[KDD 2020] Handling Information Loss of Graph Neural Networks for Session-based Recommendation
[KDD 2020] Connecting the Dots: Multivariate Time Series Forecasting with Graph Neural Networks
[KDD 2020] GPT-GNN: Generative Pre-Training of Graph Neural Networks
[KDD 2020] Graph Structure Learning for Robust Graph Neural Networks
[KDD 2020] Minimal Variance Sampling with Provable Guarantees for Fast Training of Graph Neural Networks
[KDD 2020] A Framework for Recommending Accurate and Diverse Items Using Bayesian Graph Convolutional Neural Networks
[KDD 2020] Competitive Analysis for Points of Interest
[KDD 2020] Knowing your FATE: Explanations for User Engagement Prediction on Social Apps
[KDD 2020] GHashing: Semantic Graph Hashing for Approximate Similarity Search in Graph Databases
[KDD 2020] Comprehensive Information Integration Modeling Framework for Video Titling
原文链接:
https://www.reddit.com/r/MachineLearning/comments/j6wzut/r_latest_developments_in_graph_neural_networks_a/
未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。
如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”