论文解读(10)-图神经网络

加油,继续看论文。
这次学图神经网络,这个概念经常在其他论文里出现,所以我想先学习一下这方面的知识。

参考:
【图神经网络综述】一文道尽GNN原理、框架和应用-CSDN博客
【图神经网络】10分钟掌握图神经网络及其经典模型_图神经网络建模-CSDN博客

强烈推荐:
【GNN 图神经网络】直观透彻理解_哔哩哔哩_bilibili
(视频4分钟)

1. Intro

1.1 图的基本概念

通常使用G = ( V , E ) G=(V, E)G=(V,E)来表示图,其中V VV表示节点的集合、E EE表示边的集合。对于两个相邻节点u , v u, vu,v, 使用e = ( u , v ) e=(u,v)e=(u,v)表示这两个节点之间的边。
图分为有向图(Directed Graph)和无向图(Undirected Graph)

1.2 图神经网络

在这里插入图片描述

在这里插入图片描述

这是一个图,节点的值假设为他们index的ont-hot encoding(注意,实际使用的时候用的是一些更有意义的特征,例如年龄、性别)

2.2 消息传递

一旦节点和边的转化完成,图就可在节点之间执行消息传递。这个过程也被称为「近邻聚合(Neighbourhood Aggregation)」,因为其涉及到围绕给定节点,通过有向边从周围节点推送消息(即嵌入)。

对于单个参考节点,近邻节点会通过边神经网络向参考节点上的循环单元传递它们的消息(嵌入)。参考循环单位的新嵌入更新,基于在循环嵌入和近邻节点嵌入的边神经网络输出的和上使用循环函数
在这里插入图片描述

紫色方块是一个应用于来自近邻节点的嵌入(白色信封)上的简单前馈神经网络;红色三角形是应用于当前嵌入(白色信封)和边神经网络输出(黑色信封)之和上的循环函数,以得到新的嵌入(最上面的白色信封)。

  • (有一种数据不断蔓延的感觉,然后上述是完成了红色三角信封的更新)

为了根据输入节点邻居信息更新节点状态,将局部转移函数f定义为循环递归函数的形式, 每个节点以周围邻居节点和相连的边作为来源信息来更新自身的表达h。为了得到节点的输出o, 引入局部输出函数g。因此,有以下定义
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

(h就是从其他周边区域提取到的信息,也就是在这里插入图片描述
,也就是函数f处理后的结果)

将所有局部转移函数f 堆叠起来, 有:
在这里插入图片描述

  • F:全局转移函数(Global Transition Function)
  • G:全局输出函数(Global Output Function)

在这里插入图片描述

  • 方框里是归一化后的邻接矩阵

在这里插入图片描述

  • 这里相当于给所有节点的嵌入进行了一次线性变化

核心思想:
1) 利用邻接矩阵, 实现图结构的矩阵化表示
2)通过聚合操作实现消息传递

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/877349.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

谷粒商城实战笔记-85~87-商品发布-关键

文章目录 一,85-商品服务-API-新增商品-获取分类下所有分组以及属性二,86-商品服务-API-新增商品-商品新增vo抽取三,87-商品服务-API-新增商品-商品新增业务流程分析 一,85-商品服务-API-新增商品-获取分类下所有分组以及属性 在…

某“新一线城市“前端面试,纯纯被恶心到了

一.起因 在boss上刷到的一个小小厂,收大四全年实习生(web前端),因为离家乡比较近,而且双非一本的学历以及入坑的时间没有太长(前端部分不到一年),想去那里看看形势,要求是笔试面试,当场给是否录用结果&…

大模型预训练实践

文章目录 参数量计算本文是 LLMBox 和 YuLan-Chat 的预训练示例代码。此示例基于 Transformers 和 DeepSpeed 进行训练。在下面的示例代码中,train() 函数涵盖了预训练过程中的主要步骤,包括模型与分词器的初始化、训练数据的准备等;然后调用 Trainer 类来执行模型训练并保存…

AgentBench: Evaluating LLMs As Agents

AgentBench: Evaluating LLMs As Agents Github: https://github.com/THUDM/AgentBench 榜单:https://llmbench.ai/agent/data demos:https://llmbench.ai/agent/demo 备注:该论文介绍为AgentBench v0.2版本 一、介绍 现如今&am…

指令数据的构建

文章目录 基于现有的 NLP 任务数据集构建基于日常对话数据构建基于合成数据构建指令微调(Instruction Tuning)是指使用自然语言形式的数据对预训练后的大语言模型进行参数微调,这一术语由谷歌研究员在 2022 年的一篇 ICLR 论文中正式提出。在另外一些参考文献中,指令微调也…

三行代码高搞定nestjs静态图片映射方案

方案一 nestjs/serve-static 库映射 上代码 npm i nestjs/serve-staticimport { ServeStaticModule } from nestjs/serve-static; import { join } from path; const staticPath join(__dirname, .., /public/);Module({imports: [ServeStaticModule.forRoot({rootPath: sta…

用Python代码调用GPT-SoVITS

GPT-SoVITS 项目地址:https://github.com/RVC-Boss/GPT-SoVITS import os import requests from PySide6.QtCore import QThread from PySide6.QtWidgets import QWidget, QApplication from design import Ui_Form import subprocess import sounddevice as sd im…

JAVA基础 - 泛型

目录 一. 简介 二. 集合泛型 三. 自定义泛型 四. 自定义泛型类和普通类的区别 一. 简介 泛型是 Java 语言中一种强大的特性,它允许在定义类、接口和方法时使用类型参数,从而增加了代码的类型安全性和复用性。 类型安全性: 使用泛型可以…

day07 项目启动以及git

spring框架 spring 负责整合各种框架,把new对象的部分交给spring去做,对象new不出来,项目就启动不起来,这样可以有效保证所需要的对象都在容器中存在,后续的部分都可以顺利执行控制反转:业务对象创建依赖资…

19、基于DDD的微服务代码详解

本章将深入探讨如何基于领域驱动设计(DDD)开发微服务代码,并提供具体的代码示例和详细解释。我们将基于第十八章中的请假案例进行讲解,确保每个细节都不放过。 1、项目背景 回顾第十八章中请假案例的需求和设计,我们…

“八股文”在实际工作中是助力、阻力还是空谈?

一:浅谈 关于“八股文”在程序员面试中的重要性和实际工作中的作用,确实是一个引发广泛讨论的话题。以下是我对这个问题的看法: 1. “八股文”的定义与特征 “八股文”通常指的是面试中常见的标准化问答或经典理论知识,例如…

Apollo:源码分析之cyber/mainboard启动入口介绍-my write, test ok

软件结构图 cyber入口 cyber的入口在"cyber/mainboard"目录中: ├── mainboard.cc // 主函数 ├── module_argument.cc // 模块输入参数 ├── module_argument.h ├── module_controller.cc // 模块加载,卸载 └── module_controller.…

idea如何配置tomcat

1,点击Run---EDit Configurations... 2.点击左侧“”号,找到Tomcat Server---Local(若是没有找到Tomcat Server 可以点击最后一行 34 items more) 3.在Tomcat Server -> Unnamed -> Server -> Application server项目下&…

JumpServer关闭admin mfa验证

背景 因为上一次启动了mfa验证,但是没有验证就关机重启,导致再开机输入密码后需要mfa绑定,但是怎么也无法绑定成功,导致无法登录。 故希望通过后台取消mfa的验证 解决方法 1. 进入docker docker exec -it jms_core /bin/bash…

关于Docker Engine AuthZ 插件授权绕过漏洞 (CVE-2024-41110)

一、漏洞概述 漏洞名称:Docker Engine AuthZ 插件授权绕过漏洞 (CVE-2024-41110) 漏洞等级:高危 漏洞描述:DockerEngine是Docker的核心组件,是一 个开源的容器引擎,负责构建、运行和管理容器…

蓝牙BlueZ验证使用记录

最近使用的一款AICSemi AIC8800D8芯片做的WiFiBT二合一模组,该模组WiFi使用SDIO通信,BT使用UART通信,供应商丢了一份驱动,包含了三个目录:aic8800_bsp、aic8800_fdrv和aic8800_btlpm,而蓝牙部分提供了lbh_s…

【Vue】权限控制

权限管理 分类: 页面权限功能(按钮)权限接口权限 vue3-element-admin 的实现方案 一般我们在业务中将 路由可以分为两种,constantRoutes 和 asyncRoutes。 constantRoutes: 代表那些不需要动态判断权限的路由,如登录页、404(或…

标题:“八股文”在实际工作中是助力、阻力还是空谈?

标题:“八股文”在实际工作中是助力、阻力还是空谈? “八股文”,在程序员的面试和工作中一直是一个备受争议的话题。它既是许多程序员进入职场的敲门砖,也被一些人认为是脱离实际的空谈。本文将从“八股文”对招聘过程的影响、在…

【echarts】 柱状图,最后带“竖线”

具体: https://echarts.zhangmuchen.top/#/detail?cid28ea6-0601-e9f5-9cc29-c022b758 let data [{value: 0,name: 数据格式一},{value: 55,name: 数据格式二},{value: 66,name: 数据格式三},{value: 75,name: 数据格式四},{value: 20,name: 数据格式五}];getAr…