学界 | DeepMind等机构提出「图网络」:面向关系推理

640?wx_fmt=png

来源:机器之心

摘要:近日,由 DeepMind、谷歌大脑、MIT 和爱丁堡大学等公司和机构的 27 位科学家共同提交的论文《Relational inductive biases, deep learning, and graph networks》引起了人们的关注。


深度学习虽然精于分类,但一直面临着难以进行关系推理的问题,很多研究希望通过其他方法让计算机学会「思考」。近日,由 DeepMind、谷歌大脑、MIT 和爱丁堡大学等公司和机构的 27 位科学家共同提交的论文《Relational inductive biases, deep learning, and graph networks》引起了人们的关注。该研究提出了一个基于关系归纳偏置的 AI 概念:图网络(Graph Networks)。研究人员称,该方法推广并扩展了各种神经网络方法,并为操作结构化知识和生成结构化行为提供了新的思路。


该论文作者之一,DeepMind 研究科学家 Oriol Vinyals 表示,该研究的代码也将在近期公开。


论文标题: Relational inductive biases, deep learning, and graph networks


640?wx_fmt=png


论文地址: https://arxiv.org/pdf/1806.01261.pdf


摘要:人工智能最近经历了一场复兴,在视觉、语言、控制和决策等关键领域取得了重大进展。取得这些进展的部分原因是由于廉价的数据和计算资源,它们符合深度学习的天然优势。然而,在不同压力下发展起来的人类智力,其许多决定性特征对于目前的方法而言仍是触不可及的。特别是,超越经验的泛化能力——人类智力从幼年开始发展的标志——仍然是现代人工智能面临的巨大挑战。


本论文包含部分新研究、部分回顾和部分统一结论。我们认为组合泛化是人工智能实现与人类相似能力的首要任务,而结构化表示和计算是实现这一目标的关键。正如生物学把自然与人工培育相结合,我们摒弃「手动设计特征」与「端到端」学习二选一的错误选择,而是倡导一种利用它们互补优势的方法。


我们探索在深度学习架构中使用关系归纳偏置如何有助于学习实体、关系以及构成它们的规则。我们为具有强烈关系归纳偏置的 AI 工具包提出了一个新构造块——图网络(Graph Network),它泛化并扩展了各种对图进行操作的神经网络方法,并为操作结构化知识和产生结构化行为提供了直接的界面。我们讨论图网络如何支持关系推理和组合泛化,为更复杂的、可解释的和灵活的推理模式奠定基础。


3.图网络


本论文提出的图网络(GN)框架定义了一类对图结构表征进行关系推理的函数。该 GN 框架泛化并扩展了多种图神经网络、MPNN 和 NLNN 方法(Scarselli 等,2009a; Gilmer 等,2017; Wang 等,2018c),并支持从简单的构建模块建立复杂的架构。注意,这里避免了在「图网络」中使用「神经」术语,以反映它可以用函数而不是神经网络来实现,虽然在这里关注的是神经网络实现。


GN 框架的主要计算单元是 GN 模块,这是一个「图到图」的模块,以图为输入,在结构层面上执行计算,并返回一个图作为输出。如 Box3 所示,实体由图节点表征,由边连接,系统级特性由全局属性表征。GN 框架的模块组织强调了可定制性,并能合成可以表达关系归纳偏置的新架构。其关键的设计原则是:灵活的表征;可配置的模块内部结构;以及可组合的多模块框架。


举个例子来比喻 GN 的形式化原则:考虑预测一堆橡胶球在任意引力场中的运动,它们不是互相碰撞,而是通过一个或多个弹簧互相连接。其结构和相互作用对应于 GN 的图表征和计算执行。


Box 3:「图」的定义 


640?wx_fmt=png


这里我们使用「图」来表示具有全局属性、属性化的定向多图。在本文的术语中,节点表示为 v_i,边表示为 e_k,全局属性表示为 u。我们还使用 s_k 和 r_k 分别表示边 k 发送节点和接收节点(见下文)的索引。


更确切地说,这些术语定义为:


  • 定向:单向边,从「发送」节点到「接收」节点。

  • 属性:可以编码为向量、集合甚至其他图形的属性。

  • 属性化:边和顶点具有与其关联的属性。

  • 全局属性:图级属性。

  • 多图:顶点之间可以有多个边,包括自边(self-edge)。



640?wx_fmt=png

图3:GN 区块中的更新。蓝色表示正在更新的元素,黑色表示更新中涉及的其他元素(请注意,更新中也使用蓝色元素表示前更新值)。有关符号的详细信息,请参见等式 1。


论文其他图与表


640?wx_fmt=png

表 1:标准深度学习组件中的各种关系归纳偏置。详见论文原文第 2 节。


640?wx_fmt=png

图 1:重复使用和共享常见的深度学习构件。(a)全连接层,其中所有权重都是独立的,没有共享。(b)卷积层,其中局部核函数在输入端被多次使用。共享权重由具有相同颜色的箭头指示。(c)循环层,其中相同的功能在不同的处理步骤中重复使用。


640?wx_fmt=png

图 2:不同的图表征。(a)一个分子,其中每个原子表示为对应关系的节点和边(Duvenaud 等,2015)。(b)一个质量弹簧系统,其中绳索由在图中表示为节点的质量序列定义(Battaglia 等,2016;Chang 等,2017)。(c)一个 n 主体系统,其中主体是节点,底层图是完全连接的(Battaglia 等,2016 年;Chang 等,2017)。(d)一个精密的主体系统,其中球和壁是节点,底层图形定义球之间以及球和壁之间的相互作用(Battaglia 等,2016 年;Chang 等,2017)。(e)一个句子,其中单词对应于树中的叶子,其他节点和边可以由解析器提供(Socher 等,2013)。或者,可以使用完全连接的图(Vaswani 等,2017 年)。(f)一张图像,可以分解成与完全连接图像中的节点相对应的图像块(Santoro 等,2017;Wang 等,2018)。


本文为机器之心编译,转载请联系本公众号获得授权。


未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。


未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

640?wx_fmt=jpeg

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/495407.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

oracle 11g 下载地址

oracle 11g 下载地址:http://download.oracle.com/otn/nt/oracle11g/win32_11gR1_database.zip不需要注册,直接复制到迅雷或其他下载软件中即可下载。转载于:https://www.cnblogs.com/snake-hand/archive/2011/07/25/2452273.html

ARM 汇编基础教程番外篇 ——配置实验环境

From:https://zhuanlan.zhihu.com/p/29145513 win10 arm 汇编环境 Windows 平台下搭建 ARM 汇编集成环境:https://jingyan.baidu.com/article/4b52d70288bfcdfc5c774ba5.html 要调试 ARM 程序,我们需要: 能运行 ARM 程序的运行环…

asp.net网站编码测试

1.常规asp.net网站 a.使用GBK编码时 1)form提交方式 ie:地址栏显示GBK编码后的字符串,输出中文 fireforx:地址栏显示GBK编码后的字符串,输出中文 chrome:地址栏显示GBK编码后的字符串,输…

asp.net调试方法

1、先将网站设为启动项目。 2、选择“启动选项”。 3、进行设置: 然后调试,在浏览器输入网址,此时如果遇到“断点”程序将自动停止运行,即可进行调试,查看运行中的变量的值。 转载于:https://www.cnblogs.com/gwjtssy/…

基因对智力的预测能力不到7%,别迷信它

图片来源:The Conversation撰文 Carl Zimmer翻译 李杨审校 贾晓璇编辑 魏潇2016 年我在写一本关于遗传的书时,曾对自己的基因组进行了测序。一些科学家还好心地指出了我基因组图谱的一些有趣特征,教我如何自己读取数据。从那以后,…

ARM 汇编语言入门

[翻译]二进制漏洞利用(二)ARM32位汇编下的TCP Bind shell:https://bbs.pediy.com/thread-253511.htm ARM汇编语言入门 From:ARM汇编语言入门(一):https://zhuanlan.zhihu.com/p/109057983 原文…

hdu 1250 Hat's Fibonacci

哈&#xff0c;原来大数用整型数组模拟更快&#xff0c;更容易用呀 一个位可以保存大数中的四个位甚至更多&#xff0c;而且效率极高&#xff0c;看完这方面的资料&#xff0c;真是后知后觉啊&#xff0c;自己写了一下代码&#xff0c;确实好写很多 #include<stdio.h> #i…

图灵奖演讲2018,59页PPT迎接芯片体系结构的新黄金时代

来源&#xff1a; 计算所控制计算实验室6月4日&#xff0c;在今年的国际计算机体系结构大会ISCA2018的图灵奖演讲会上&#xff0c;ACM/IEEE邀请了2017年图灵奖获得者John Hennessy与David Patterson联合进行了一场关于未来计算机体系结构发展道路探索的精彩演讲。二位图灵奖得主…

ARM 指令集 和 Thumb 指令集

From&#xff1a;https://gitee.com/lsliushuang/ASM/blob/master/arm汇编.txt ARM 汇编指令集汇总&#xff1a;https://blog.csdn.net/qq_40531974/article/details/83897559 ARM 指令集详解(超详细&#xff01;带实例!&#xff09;&#xff1a;https://blog.csdn.net/micke…

HDU 1033 水题

题意还真的不好懂&#xff0c;摸索数据就出来了&#xff0c;注意顺时针和逆时针时候的方向变化 /* * Author:lonelycatcher * problem:hdu 1033 * Type:水题 */#include<string.h>#include<iostream>#include<string>#include<stdio.h>#include<cst…

花旗银行将因人工智能裁员50%,失业风波究竟要持续多久

来源&#xff1a;ofweek摘要&#xff1a; 在这个人工智能随时可能会取代人类工作的年代里&#xff0c;人们对自己的工作的未来应该去了解和重视&#xff0c;尤其是数字类别的行业&#xff0c;像是会计、税务、收费站是最早被人工智能替代的一批。在这个人工智能随时可能会取代人…

Python 程序的抽样分析器 - Py-Spy

From&#xff1a;https://python.freelycode.com/contribution/detail/1320 GitHub 地址&#xff1a;https://github.com/benfred/py-spy Py-Spy 是 Python 程序的抽样分析器。 它允许您可视化 Python 程序正花费时间在哪部分&#xff0c;而无需重新启动程序或以任何方式修改代…

微观世界探索者:15家值得关注的纳米技术公司

来源&#xff1a;资本实验室摘要&#xff1a;纳米技术就像微观世界的魔术&#xff0c;让人类得以前所未有地深入到物质的分子与原子层面&#xff0c;探索生物、化学、物理等各领域的融合。资本实验室今日投资关注聚焦前沿科技创新与传统产业升级纳米技术就像微观世界的魔术&…

Python 异步 redis

现在的 Python 的异步 redis&#xff0c;有三种&#xff08; aredis 、aioredis、asynio_redis) aredis 、aioredis、asynio_redis 对比 From&#xff1a;https://zhuanlan.zhihu.com/p/24720629 aioredis 要求装上 hiredis &#xff0c; 而 aredis 可以不需要相关依赖地运行&…

AspNetPager 修改 然后返回当前页

昨天碰到一个问题需要修改了 然后然后当前选中页面 这个问题应该很简单 也就是传值问题 根据自己的需求而决定 在返回的时候数据是当前的数据但是不在选中的页号 纠结了很长时间 请求别人帮助终于发现问题 原来是 Pager.CurrentPageIndex没有设定 大家应该认为我是不是很马虎 …

DeepMind新论文:给侧面照片,AI给你脑补出正面

来源&#xff1a;澎湃新闻摘要&#xff1a;大家在学生时代可能都面对过这些涉及空间想象的几何题。从根本上&#xff0c;它们考验的是2D图像和3D场景间的转换能力。如今&#xff0c;人工智能也成功打破了这种“次元壁”。用小立方体搭一个几何体&#xff0c;使它的主视图和俯视…

安卓逆向 和 手游辅助 学习 路线

From&#xff1a;https://zhuanlan.zhihu.com/p/95915254 知乎&#xff1a;Android 逆向分析学习路线&#xff1f;&#xff1a;https://www.zhihu.com/question/25626303 入门篇 --- 学习Android安全和逆向开发的路线总结&#xff1a;https://www.52pojie.cn/thread-1065039-…

对 带头结点的单链表 的操作

//带头结点的单链表#include<iostream>using namespace std;typedef struct student{int data;struct student *next;}node;node * creat() //创建单链表{node *head,*p,*s;int x,cycle1;head(node *)malloc(sizeof(node));phead;while(cycle){…

可交互的对抗网络如何增强人类创造力?

编译&#xff1a;集智翻译组来源&#xff1a;distill.pub作者&#xff1a;Shan Carter&#xff0c;Michael Nielsen原题&#xff1a;Using Artificial Intelligence to Augment Human Intelligence摘要&#xff1a;计算机不仅可以是解决数学问题的工具&#xff0c;还可以是拥有…

[转载] 本能

新浪影音娱乐&#xff1a;http://data.ent.sina.com.cn/movie/3819.html 转载于:https://www.cnblogs.com/6DAN_HUST/archive/2011/08/04/2126907.html