人工智能学派之间的「联姻」——Yoshua 新作居然用DL「复活」了符号主义

来源:混沌巡洋舰  

近日,Yoshua Bengio及其团队利用深度学习,开发出了一套可以揭示丰富视觉环境中的潜在规则的「神经生产系统」,使得现在暂时沉寂的符号人工智能重新恢复了活力。

相信大家都知道,目前人工智能的主要学派有下列三家:

 (1) 符号主义(symbolicism),又称为逻辑主义、心理学派或计算机学派,其原理主要为物理符号系统(即符号操作系统)假设和有限合理性原理。

(2) 连接主义(connectionism),又称为仿生学派或生理学派,其主要原理为神经网络及神经网络间的连接机制与学习算法。

(3) 行为主义(actionism),又称为进化主义或控制论学派,其原理为控制论及感知-动作型控制系统。

符号主义曾长期一枝独秀,为人工智能的发展作出重要贡献,尤其是专家系统的成功开发与应用,为人工智能走向工程应用和实现理论联系实际具有特别重要的意义。

1986年,鲁梅尔哈特(Rumelhart)等人提出多层网络中的反向传播(BP)算法。此后,连接主义势头大振,从模型到算法,从理论分析到工程实现,为神经网络计算走向市场打下基础。

而现在,Youshio Bengio干了一件神奇的事情——他带领团队,使用深度学习使符号人工智能恢复了活力:

近日,Youshio Bengio和一组研究人员引入了一个端到端深度学习模型,该模型部分受到经典人工智能生产系统的启发,可以在视频中构建以对象为中心的实体表示,并使用可微分和可学习的生产规则对其进行操作。

研究团队主要来自于蒙特利尔大学的Mila、DeepMind、Waverly和谷歌Brain。

任何结构化视觉环境(如视频)中的对象或者实体都具有可见和潜在的属性,这些属性决定了他们如何相互作用。为这种相互作用建模的传统方法是使用等变图神经网络(GNNs)。

然而,这种设置并不理想,因为GNN并不能预先处理稀疏交互,也不能以实体条件的方式分解交互的知识。

本文提出的神经生产系统(Neural Production Systems,NPS)则解决了这些问题。

论文链接:https://arxiv.org/pdf/2103.01937.pdf

NPS由一组规则模版组成,通过将规则中的占位符变量绑定到特定的实体,这些模版可在丰富的可视环境中分解特定于实体和基于规则的信息。

我们知道,根据物理定律,把盘子从餐桌上推下去会导致盘子掉到地板上,并且很可能会摔碎。

尽管从未学过基本的物理知识,即使是孩子,也可以用命题表达的方式来表达这一知识,比如:「如果一个盘子从桌子上掉下来,它会摔碎。」

然而,这种命题知识的简单表达仍然是深度学习体系结构的一个挑战,原因有两个:

1)命题是离散的,彼此独立

2)命题必须被量化为一阶逻辑的方式。

关于符号知识表示的命题推理,经典的人工智能方法提供了一些有价值的视角。其中,一个简单的例子是20世纪80年代的生产系统,它通过条件-动作规则来表达知识。

现在,研究人员从深度学习的角度重新审视了这种产生系统,并提出了一种神经生产系统,可以自然的将感知处理和随后的视觉推理问题的推理结合起来。

研究人员提出的NPS与传统的生产系统都有四个基本性质:模式、抽象、稀疏和对称。他们规定了知识是如何表示的。

这个生产的体系结构,还支持实体表示的检测和推断,并且能控制他们交互的潜在规则。

图:规则和槽的组合

在上图中,条件操作规则指定实体如何交互,插槽则维持实体的时变状态。每条规则都与一对插槽匹配。通过键值注意力机制,我们可以确定匹配的优度,并选择规则及其对插槽的绑定。

在实验部分,研究人员测试了NPS的有效性。其中一项涉及了学习数字的加、减、乘运算的算数任务;实验还涉及了MNIST转换,以测试扩展到更加丰富的视觉设置的能力;最后,为了模拟简单的物理世界,实验还包括了一个动作约束(Action-Conditioned)的模型。

图:算术任务

上图使了用不同序列长度对应的均方误差损失(MSE),该部分主要将NPS与基线模型进行了比较。

图:MNIST转换

图:Action-Conditioned模型

上图中的(a)使用了H@1指标比较了NPS和GNN(越高越好),(b)表示了在在物理环境中使用单个规则时,NPS中使用的规则应用步骤数量的影响。(c)则对NPS和GNN模型中五款游戏Atari游戏H@1的平均得分进行了比较。

在算术任务中,NPS的MSE明显低于基线。在MNIST转换任务中,NPS成功地学会了使用单独的规则来表示每个转换,而物理环境模拟则验证了NPS从简单(少数对象)环境到更复杂环境的推断能力。

参考资料:

https://arxiv.org/pdf/2103.01937.pdf

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/484914.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

域名,ip,mac地址

域名:由一串用点分隔的名字组成的Internet上某一台计算机或计算机组的名称,用于在数据传输时对计算机的定位标识(有时也指地理位置)。 mac地址:物理地址、硬件地址,用来定义网络设备的位置。 IP地址&…

25万亿规模!中国智慧城市建设刚需在哪?

来源:帮尼资讯如果说当下在中国新基建中最火的名词是什么,智慧城市这四个字几乎脱口而出。而在雪亮工程已经基本结束的当下,智慧城市接过了雪亮工程的大旗,成为了对安防企业来说利润最大、保障最稳的政府类项目。前瞻产业研究院预…

Python面向对象(类的成员之属性)

day24 类的成员之属性 1 class Foo():2 def bar(self):3 print("bar")4 5 property6 def per(self):7 print(123)8 return 19 10 obj Foo() 11 obj.bar() 12 13 r obj.per#实际上是方法,但通过字段的方式访问 14…

浅析Serverless

近两年来,Serverless 概念在开发者中交流的越来越多,主题分享呈现爆发趋势。有人说:Serverless 正在改变未来软件开发的模式和流程,它就是云计算的未来。 在一个应用中包含了多个功能,如订单创建、订单查询和订单修改…

复兴or幻象?VR的2021三重门

来源:脑极体从2020年底开始,无论你日常看一些数码博主的评测,还是喜欢了解科技产业的动态、投融资的报道,都能在媒体中了解到这么一个信号:2021,VR复兴了!当然,这个表述有很多说法&a…

关于ubuntu环境下gcc使用的几点说明

1 sudo apt-get build-dep gcc //安装gcc编译器2 3 4 /*5 假设已经创建hello.c文件6 */7 8 //方法一9 $gcc hello.c //将源文件直接编译成文件名为a.out的可执行文件 10 $./a.out //执行a.out可执行文件 11 12 13 //方法二 14 $gcc -o hello hello.c //将…

24张GIF图,让你秒懂非标自动化机构的原理

来源:工业机器人1.组合加紧机构↓↓2.凸轮连杆组合输送薄板机构↓↓3.热合联动↓↓4.凸轮双摇杆机构单独运动↓↓5.步进输送机构↓↓6.输出构件作间歇运动↓↓7.输出构件作间歇运动等宽凸轮间歇移动机构↓↓8.双摇杆夹紧机构↓↓9.不自锁推拉式夹紧机构↓↓10.双肘杆…

selectByExample和selectByExampleWithBLOBs的区别

1、问题描述: 在mybatis逆向工程生成的代码中会有selectByExample 和selectByExampleWithBLOBs 两个方法,这个两个方法有何区别? 2、问题解析: 1>两个方法的返回的resultMap 不同 selectByExample 方法返回:Base…

hdu 2197 本原串

Problem Description由0和1组成的串中&#xff0c;不能表示为由几个相同的较小的串连接成的串&#xff0c;称为本原串&#xff0c;有多少个长为n&#xff08;n<100000000)的本原串&#xff1f;答案mod2008.例如&#xff0c;100100不是本原串&#xff0c;因为他是由两个100组…

机器学习的通俗讲解

来源&#xff1a;dataxon译者&#xff1a;Ahong机器学习人人都在谈论&#xff0c;但除了老师们知根知底外&#xff0c;只有很少的人能说清楚怎么回事。如果阅读网上关于机器学习的文章&#xff0c;你很可能会遇到两种情况&#xff1a;充斥各种定理的厚重学术三部曲(我搞定半个定…

Mybatis中example的使用

Mybatis有很简单的方式来完成sql语句的编写 如下&#xff1a; int id 2; ClusterExample ClusterExample new ClusterExample(); ClusterExample.Criteria criteria ClusterExample.createCriteria(); //增加条件&#xff0c;对应为where&#xff0c;下面这行代码可以理解为…

崩溃bug日志总结2

目录介绍 1.1 java.lang.ClassNotFoundException类找不到异常1.2 java.util.concurrent.TimeoutException连接超时崩溃1.3 java.lang.NumberFormatException格式转化错误1.4 java.lang.IllegalStateException: Fragment not attached to Activity1.5 ArrayIndexOutOfBoundsExce…

边缘计算有哪些关键技术?

来源&#xff1a;智东西、金融界等网站原文链接&#xff1a;https://mp.weixin.qq.com/s/5QAHPMM8SNE3J8fpmDKFaQ如果要问物联网圈最火的概念有哪些&#xff1f;5G与边缘计算一定榜上有名&#xff0c;两者看似风马牛不相及&#xff0c;实则却在冥冥之中自有交集。5G时代&#x…

前端调用后端接口的错误(400)

前端调用后端接口时&#xff0c;浏览器debug出现Failed to load resource: the server responded with a status of 400 (Bad Request) 之后debug还会出现出现问题的url 这种问题一般是前后端参数不一致的问题 比如user类&#xff0c;里面包含属性id,name,age,gender等参数 …

cdh中hdfs非ha环境迁移Namenode与secondaryNamenode,从uc机器到阿里;

1.停掉外部接入服务&#xff1b; 2 NameNode Metadata备份&#xff1b; 2.1 备份fsimage数据&#xff0c;&#xff08;该操作适用HA和非HA的NameNode&#xff09;&#xff0c;使用如下命令进行备份&#xff1a; [rootcdh01 dfs]# mkdir nn_metadata_back [rootcdh01 dfs]# hdfs…

insert和insertSelective区别

在数据库中给一些字段设置了默认值 调用mybatis逆向工程生成的insert方法保存时并没有给这些字段传值&#xff0c;insert的结果却是这些字段的值依旧为null 之后查看源码发现insert方法会给所有字段赋一次值&#xff0c;因此即便未传该字段的值&#xff0c;也会给该字段赋值&…

论文《城市大脑的定义与建设规范探讨》在IEEE(ICBAIE)发表

来源&#xff1a;城市大脑全球标准研究组城市大脑全球标准研究组论文《Discussion on the Definition and Construction Principles of City Brain》&#xff0c;2021年3月在2021 IEEE 2nd International Conference on Big Data, Artificial Intelligence and Internet of Thi…

修改类名后依旧按照原先的类名进行加载

在springMvcMybatis的项目里面 修改了一个类名&#xff0c;之后编译的时候报出了以下的错误 试过 clean也没有作用 黑色涂鸦部分为原先的类名 删掉target文件夹解决了问题 原因是target会保存之前编译好的路径&#xff0c;编译时如果再根据之前的路径去寻找&#xff0c;一定…

谷歌的深度学习在AI芯片中找到了一条关键路径

来源&#xff1a;AI前线 作者&#xff1a;Tiernan Ray译者&#xff1a;Sambodhi策划&#xff1a; 刘燕一年前&#xff0c;ZDNet 与谷歌大脑总监 Jeff Dean谈到 了该公司如何使用人工智能来推进定制芯片的内部开发&#xff0c;从而加快软件开发。Dean 指出&#xff0c;在有些情…

select2实现全选

实现select2全选所有的选项 传入select2的Id即可。 //select2全选所有的选项 function chooseSelect2All(select_id) {//document的对象&#xff0c;可以取到optionvar item document.getElementById(select_id)//$(#select_id);//jquery的对象&#xff0c;用来指定select2控…