人工智能学派之间的「联姻」——Yoshua 新作居然用DL「复活」了符号主义

来源:混沌巡洋舰  

近日,Yoshua Bengio及其团队利用深度学习,开发出了一套可以揭示丰富视觉环境中的潜在规则的「神经生产系统」,使得现在暂时沉寂的符号人工智能重新恢复了活力。

相信大家都知道,目前人工智能的主要学派有下列三家:

 (1) 符号主义(symbolicism),又称为逻辑主义、心理学派或计算机学派,其原理主要为物理符号系统(即符号操作系统)假设和有限合理性原理。

(2) 连接主义(connectionism),又称为仿生学派或生理学派,其主要原理为神经网络及神经网络间的连接机制与学习算法。

(3) 行为主义(actionism),又称为进化主义或控制论学派,其原理为控制论及感知-动作型控制系统。

符号主义曾长期一枝独秀,为人工智能的发展作出重要贡献,尤其是专家系统的成功开发与应用,为人工智能走向工程应用和实现理论联系实际具有特别重要的意义。

1986年,鲁梅尔哈特(Rumelhart)等人提出多层网络中的反向传播(BP)算法。此后,连接主义势头大振,从模型到算法,从理论分析到工程实现,为神经网络计算走向市场打下基础。

而现在,Youshio Bengio干了一件神奇的事情——他带领团队,使用深度学习使符号人工智能恢复了活力:

近日,Youshio Bengio和一组研究人员引入了一个端到端深度学习模型,该模型部分受到经典人工智能生产系统的启发,可以在视频中构建以对象为中心的实体表示,并使用可微分和可学习的生产规则对其进行操作。

研究团队主要来自于蒙特利尔大学的Mila、DeepMind、Waverly和谷歌Brain。

任何结构化视觉环境(如视频)中的对象或者实体都具有可见和潜在的属性,这些属性决定了他们如何相互作用。为这种相互作用建模的传统方法是使用等变图神经网络(GNNs)。

然而,这种设置并不理想,因为GNN并不能预先处理稀疏交互,也不能以实体条件的方式分解交互的知识。

本文提出的神经生产系统(Neural Production Systems,NPS)则解决了这些问题。

论文链接:https://arxiv.org/pdf/2103.01937.pdf

NPS由一组规则模版组成,通过将规则中的占位符变量绑定到特定的实体,这些模版可在丰富的可视环境中分解特定于实体和基于规则的信息。

我们知道,根据物理定律,把盘子从餐桌上推下去会导致盘子掉到地板上,并且很可能会摔碎。

尽管从未学过基本的物理知识,即使是孩子,也可以用命题表达的方式来表达这一知识,比如:「如果一个盘子从桌子上掉下来,它会摔碎。」

然而,这种命题知识的简单表达仍然是深度学习体系结构的一个挑战,原因有两个:

1)命题是离散的,彼此独立

2)命题必须被量化为一阶逻辑的方式。

关于符号知识表示的命题推理,经典的人工智能方法提供了一些有价值的视角。其中,一个简单的例子是20世纪80年代的生产系统,它通过条件-动作规则来表达知识。

现在,研究人员从深度学习的角度重新审视了这种产生系统,并提出了一种神经生产系统,可以自然的将感知处理和随后的视觉推理问题的推理结合起来。

研究人员提出的NPS与传统的生产系统都有四个基本性质:模式、抽象、稀疏和对称。他们规定了知识是如何表示的。

这个生产的体系结构,还支持实体表示的检测和推断,并且能控制他们交互的潜在规则。

图:规则和槽的组合

在上图中,条件操作规则指定实体如何交互,插槽则维持实体的时变状态。每条规则都与一对插槽匹配。通过键值注意力机制,我们可以确定匹配的优度,并选择规则及其对插槽的绑定。

在实验部分,研究人员测试了NPS的有效性。其中一项涉及了学习数字的加、减、乘运算的算数任务;实验还涉及了MNIST转换,以测试扩展到更加丰富的视觉设置的能力;最后,为了模拟简单的物理世界,实验还包括了一个动作约束(Action-Conditioned)的模型。

图:算术任务

上图使了用不同序列长度对应的均方误差损失(MSE),该部分主要将NPS与基线模型进行了比较。

图:MNIST转换

图:Action-Conditioned模型

上图中的(a)使用了H@1指标比较了NPS和GNN(越高越好),(b)表示了在在物理环境中使用单个规则时,NPS中使用的规则应用步骤数量的影响。(c)则对NPS和GNN模型中五款游戏Atari游戏H@1的平均得分进行了比较。

在算术任务中,NPS的MSE明显低于基线。在MNIST转换任务中,NPS成功地学会了使用单独的规则来表示每个转换,而物理环境模拟则验证了NPS从简单(少数对象)环境到更复杂环境的推断能力。

参考资料:

https://arxiv.org/pdf/2103.01937.pdf

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/484914.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

25万亿规模!中国智慧城市建设刚需在哪?

来源:帮尼资讯如果说当下在中国新基建中最火的名词是什么,智慧城市这四个字几乎脱口而出。而在雪亮工程已经基本结束的当下,智慧城市接过了雪亮工程的大旗,成为了对安防企业来说利润最大、保障最稳的政府类项目。前瞻产业研究院预…

浅析Serverless

近两年来,Serverless 概念在开发者中交流的越来越多,主题分享呈现爆发趋势。有人说:Serverless 正在改变未来软件开发的模式和流程,它就是云计算的未来。 在一个应用中包含了多个功能,如订单创建、订单查询和订单修改…

复兴or幻象?VR的2021三重门

来源:脑极体从2020年底开始,无论你日常看一些数码博主的评测,还是喜欢了解科技产业的动态、投融资的报道,都能在媒体中了解到这么一个信号:2021,VR复兴了!当然,这个表述有很多说法&a…

24张GIF图,让你秒懂非标自动化机构的原理

来源:工业机器人1.组合加紧机构↓↓2.凸轮连杆组合输送薄板机构↓↓3.热合联动↓↓4.凸轮双摇杆机构单独运动↓↓5.步进输送机构↓↓6.输出构件作间歇运动↓↓7.输出构件作间歇运动等宽凸轮间歇移动机构↓↓8.双摇杆夹紧机构↓↓9.不自锁推拉式夹紧机构↓↓10.双肘杆…

机器学习的通俗讲解

来源:dataxon译者:Ahong机器学习人人都在谈论,但除了老师们知根知底外,只有很少的人能说清楚怎么回事。如果阅读网上关于机器学习的文章,你很可能会遇到两种情况:充斥各种定理的厚重学术三部曲(我搞定半个定…

边缘计算有哪些关键技术?

来源:智东西、金融界等网站原文链接:https://mp.weixin.qq.com/s/5QAHPMM8SNE3J8fpmDKFaQ如果要问物联网圈最火的概念有哪些?5G与边缘计算一定榜上有名,两者看似风马牛不相及,实则却在冥冥之中自有交集。5G时代&#x…

论文《城市大脑的定义与建设规范探讨》在IEEE(ICBAIE)发表

来源:城市大脑全球标准研究组城市大脑全球标准研究组论文《Discussion on the Definition and Construction Principles of City Brain》,2021年3月在2021 IEEE 2nd International Conference on Big Data, Artificial Intelligence and Internet of Thi…

修改类名后依旧按照原先的类名进行加载

在springMvcMybatis的项目里面 修改了一个类名,之后编译的时候报出了以下的错误 试过 clean也没有作用 黑色涂鸦部分为原先的类名 删掉target文件夹解决了问题 原因是target会保存之前编译好的路径,编译时如果再根据之前的路径去寻找,一定…

谷歌的深度学习在AI芯片中找到了一条关键路径

来源:AI前线 作者:Tiernan Ray译者:Sambodhi策划: 刘燕一年前,ZDNet 与谷歌大脑总监 Jeff Dean谈到 了该公司如何使用人工智能来推进定制芯片的内部开发,从而加快软件开发。Dean 指出,在有些情…

脑机接口猴子通过“意念”打游戏!马斯克:未来能让瘫痪者用意念玩手机

来源:新智元它是Pager,一只9岁的恒河猴,来自Neuralink,最近它刚刚get了新技能——用意念玩乒乓球游戏。6个星期前,Pager的脑袋里被植入了两个叫N1 Link的装置,工作人员用香蕉奶昔诱惑它玩游戏,屏…

struts2_HelloWorld

第一个Struts2程序-Hello 1.创建web工程struts2-01-Hello 2.导入jar包到bin目录,jar地址: https://files.cnblogs.com/files/aihuadung/struts%E6%89%80%E9%9C%80jar%E5%8C%85.zip 3.配置web.xml文件 <?xml version"1.0" encoding"UTF-8"?><!DO…

centos 7 网络设置与图像化界面下载

①打开虚拟机的设置&#xff0c;找到网络设置。再启用网卡1&#xff0c;选择连接方式为Host-only&#xff0c;界面名称选择VirtualBox Host-Only Ethernet Adapter&#xff0c;设置如下图 提示&#xff1a; 1.对虚拟机网络设置&#xff0c;需要先关闭虚拟机&#xff1b; 2.这里…

逻辑的计算进路--从莱布尼茨到图灵的逻辑发展

来源&#xff1a;图灵人工智能【作者单位&#xff1a;北京语言大学信息科学学院中国社会科学院哲学所】摘要&#xff1a;现代逻辑肇始于莱布尼茨&#xff0c;在布尔和弗雷格处发生了分流&#xff0c;形成了所谓的逻辑的代数传统和逻辑的语言传统&#xff0c;然而&#xff0c;无…

c# 窗体启动后自动执行 Form_Load事件注册及调用

很多时候我们需要在程序一开始后立即触发执行一些程序。这时候需要调用Form_Load。 首先编写事件程序块&#xff0c;编写完后即可再里面添加需要执行的代码。 在结构体之后写就行。添加之前的代码如下&#xff1a; using System;using System.Collections.Generic;using Syste…

上海交大与《Science》发布125个最具挑战的科学问题

来源&#xff1a;澎湃新闻“我们可以预测下一次流行病吗&#xff1f;”“我们会找到治疗感冒的方法吗&#xff1f;”“什么是重力&#xff1f;”“人类有一天会不得不离开地球吗&#xff1f;”“什么是成瘾&#xff1f;”《Science&#xff08;科学&#xff09;》/美国科学促进…

离体猪脑实验的困惑

© Thomas Prior来源&#xff1a;利维坦文&#xff1a;Philip Jaekl译&#xff1a;Yord校对&#xff1a;药师令人意外的是&#xff0c;死亡的定义不太牢靠。20世纪50年代之前&#xff0c;人们对死亡的定义通常是心跳停止且没有自主呼吸。但在1968年&#xff0c;哈佛医学院特…

刚刚,我国智能科学技术最高奖揭晓!

第十届“吴文俊人工智能科学技术奖”颁奖典礼现场来源&#xff1a; 深城物联 4月10日&#xff0c;我国智能科学技术最高奖“吴文俊人工智能科学技术奖”十周年颁奖盛典北京举办。军事科学院系统工程研究院研究员、中国工程院院士李德毅荣获“吴文俊人工智能最高成就奖”&#…

Kubernetes原理浅析

传统部署时代&#xff1a; 早期&#xff0c;组织在物理服务器上运行应用程序。无法为物理服务器中的应用程序定义资源边界&#xff0c;这会导致资源分配问题。例如&#xff0c;如果在物理服务器上运行多个应用程序&#xff0c;则可能会出现一个应用程序占用大部分资源的情况&am…

mac上python3安装HTMLTestRunner

下载支持python3版本的HTMLTestRunner.py文件后&#xff0c;拷贝到python3的lib目录下 在终端输入如下命令&#xff1a; 将HTMLTestRunner.py文件拷贝到如下目录后&#xff0c;pycharm中就可以import HTMLTestRunner 转载于:https://www.cnblogs.com/yrxns/p/9857812.html

从Bengio的NPS模型看AGI的实现通路

来源&#xff1a;混沌巡洋舰这两天深度学习祖师Yoshua Bengio 的 Neural Production System 刷新了AI圈子。与以往的深度学习套路不同的是&#xff0c; 这篇文章有效的把符号主义AI对人类认知的模拟与深度学习结合&#xff0c; 得到了一个能够学习规则的神经机器。我们先来看下…