Tomaso A.Poggio教授丨人工智能的下一个突破点在何处?

来源:图灵人工智能

AI的成功故事

在过去的25年中,尤其是在刚刚过去的十年中,AI,特别是机器学习,已经拥有了十足可观的进展。

两个主要的成功故事第一个是AlphaGo。在虚拟的游戏世界中,AI绝对已经战胜了人类。AlphaGo由DeepMind研发,Demis Hassabis作为发起人。另一个故事是Mobileye,现在已经属于Intel公司,Amnon Shashua作为奠基人。Mobileye已经成为了拥有视觉的自动驾驶系统的领军者。现今的Mobileye系统中,每跑五万公里才会出现一次错误。所以,在二十多年里,性能提升的比例是百万级,约等于在长达二十多年里每年的准确率都接近于翻倍。

这些成功故事的核心是现代机器学习的两个关键算法——强化学习、深度学习。DeepMind和Mobileye都使用了这两种算法。DeepMind着重于强化学习,Mobileye更倾向于深度学习。不过这两种算法都是它们成功的关键。值得一提的是这两家公司的创始人 Demis Hassabis 和Amnon Shashua都曾是Tomaso A.Poggio教授的博士后学生。

下一个突破点在何处

我们如何解决智能的问题?下一个突破点将在何处?Tomaso A.Poggio教授认为:“过去的经验告诉我们,历史上的突破口来自神经科学,所以我预计未来的一些突破性进展也将来自于神经科学。”

回溯强化学习和深度学习的历史,会发现它们都来自于神经科学。强化学习可以追溯自巴浦洛夫的行为神经学,而深度学习来自于哈佛大学David Hubel和Torsten Wiesel在研究视觉中枢的生理学中所做的工作。他们记录了猫和猴子的视觉神经结构,并提出了一种视觉中枢的神经架构。正是这种架构,而非模型训练技巧,在深度学习神经网络中得到了应用,甚至包括了最近的残差神经网络ResNet。

Tomaso A.Poggio教授带领的团队CBMM(大脑、思维和机器中心),主要目标是理解大脑和智力是如何实现的,并且从对此的理解出发,研发更多智能机器。而究竟智能机器最终会脱胎于我们对大脑的理解,还是独立诞生于与神经科学无关的工程学,这是一个开放的问题。Poggio教授认为在很多场合中我们仍然需要理解人类智能,理解智能是如何在大脑中产生的。制造智能机器需要神经科学的参与是极有可能的。这场有趣的角逐赛的结果值得在未来的几十年中期待。

深度学习的一些谜题

如果你了解一些机器学习,这些问题与深度神经网络的一个奇怪的特征相关,即神经网络中参数数量往往远多于训练数据。如果你有一个模型,并且你想要求解一些参数值,你最好准备两倍于参数数量的数据点,最好十倍。不过神经网络似乎违背了这个共识,实际上依靠少于参数数量的数据运行。在深度神经网络中,拥有多层神经元,每个神经元会提交大量输入数据,并被分配一个权重。这些输入的加权总和当然是一个数字,然后会通过一个整流函数(rectifier),这就是一个完整的操作。这个操作会在每一层网络的每一个神经元上重复。

训练这样的一个计算网络的关键就在于找到这些参数的正确值。这些参数即为权重矩阵。每层网络,或多层网络会形成一个矩阵。你必须解出这些参数的数值。对于每一组数据,你想要找到能使该神经网络的预测值与结果的真值之间的差距测量值最小化的参数值。

如图所示训练数据,输入的向量可以是一幅图片,而输出值则为图片中所包含物体的标签。如果你试图找到训练数据的某个元素的测量值的最小二乘,而你使用了梯度下降算法,或者更具体的,随机梯度下降算法,则损失函数不是在所有样本上求和,而是在样本的随机子集上求和,会一步步改变梯度下降的方向。这种计算方法非常成功。现在这些深度网络中的数学谜题开始逐渐被解决了。剩下的便是理解深度网络中缺失的部分,与真正智能的差距。

联想记忆、进化和智力循环训练

从智能的科学的角度出发,现在的问题是,人类智力的底层回路是什么?大脑中存在着什么?进化是如何发现它们的?发现的结果是什么?回溯到五十多年前的一些研究成果,正是这些成果基于对所谓的“全息记忆”(holographic memories)的特性的模拟,提出了神经网络,早期神经网络。这些网络被称为联合内存/关联记忆(associative memories)实际上与当今的神经网络并无太大差别。当今的神经网络事实上在处理对于训练集中未曾出现过从而未进入记忆的输入值x的泛化问题,然而当年的研究重点在于记忆过的输入值。实际上,那些与现今神经网络相似的网络同样拥有记忆和泛化的能力。看起来仍然关于人类智力的很多方面仍然不能被大型关联记忆所解释。部分是由于我们没有像神经网络一样被大量训练数据所训练。所以,大型关联记忆的解释不足以解释人类智能。

那进化发现了什么呢?进化可能发现了一些优于关联记忆的技巧。最自然最简单的一种,就是可能自然进化出了类似于图灵机的回路,关联记忆是其中的一部分,不过本质上它是一个关联了输入和输出的程序。不过在一个连续状态的系统下,也有通关关联记忆产生的关联。这样你便拥有了一个远强于关联记忆的计算系统。图灵机是一种通用计算机。从神经回路的观点出发,进化的发现可能就是隐藏态的循环和输入输出的循环。

这并不是一个完整的解释,不过可能是一个开端,用于研究进化是如何使得中枢回路能够强力且通用地处理不同的输入,从视觉输入到听觉输入、语言输入。这些程序跑在这些图灵机上,它们是如何存储的?进化是如何发现了它们并且使它们优化?最后的部分是Poggio教授的推测,他希望它们能给大家一些构建智能问题的语境。

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)大脑研究计划,构建互联网(城市)大脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/484288.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Unity3D-声音系统

声音 1.Unity3D支持的音频文件 mp3、ogg、wav、aif、mod、it、s3m、xm。 2.声音分为2D,3D两种 3D声音:有空间感,近大远小;2D声音:适合做背景音乐。 3.在场景中产生声音,主要有两个总要的组件: Audio …

当可解释人工智能遇上知识图谱

来源:知乎—机器学习小谈地址:https://zhuanlan.zhihu.com/p/386458680本文按照以下章节进行组织:1. 背景意义2. 基于路径的方法3. 基于嵌入的方法4. 总结与展望01背景意义1.1 什么是可解释性?首先,什么是可解释性。由…

Unity3D-C#脚本介绍

Unity3D脚本介绍 脚本就是附加在游戏物体上用于定义游戏对象行为的指令代码。Unity支持C#高级编程语言。 1.语法结构 using 命名空间; public class 类名:Monobehaviour {void 方法名(){Debug.Log("调试信息.");print("调用…

JConsole连接远程linux服务器配置

1.在远程机的tomcat的catalina.sh中加入配置 (catalina.sh路径在tomcat/bin下面 如/usr/local/tomcat/bin) 1 if [ "$1" "start" ];then 2 JAVA_OPTS"$JAVA_OPTS -Djava.rmi.server.hostname192.168.10.98 -Dcom.sun.management.jmxremote"…

缺缺缺!IoT行业的“芯”选择是什么?

来源:北京物联网智能技术应用协会“最初,没有人在意这场灾难,直到这场灾难和每个人息息相关。”这是电影《流浪地球》的开头,预示着一场即将来临的危机。如今,这句话正在现实中应验,不过,这次遭…

Unity3D-相关函数功能

函数功能 1.每隔固定时间执行一次,时间间隔固定(0.02s),时间间隔可以修改。 适用性:适合对物体作移动,旋转等物理操作。 函数执行不受渲染影响。 private void FixedUpdate() {Debug.Log(Time.time); }设置更新频率&…

JMeter4.0以上 分布式测试报错 server failed start Listen failed on port

使用JMeter4.0做分布式测试的是否,我的电脑作为肉鸡(执行机),双击jmeter-server.bat后显示失败 Found ApacheJMeter_core.jarUsing local port: 1888Server failed to start: java.rmi.server.ExportException: Listen failed on …

Unity-基本函数用法

1.常用组件 组件作用Transform存储个处理游戏对象的位置、旋转和缩放Mesh Filter显示网格Rigidbody刚体,使物体能在物理控制下运动Collider碰撞器,和刚体一起来是游戏对象发生碰撞Renderer渲染器,使物体在屏幕上显示出来Audio Source音频源&…

AI芯片的未来之战:“霸主”英伟达真就无人能挡了吗?

来源: AI前线作者:NICOLE KOBIE译者:王强英伟达,AI 芯片市场的统治者业内有一个传说,讲的是英伟达怎样从游戏和图形硬件转向了 AI 芯片市场的统治者 — 这个故事中有猫的身影。早在 2010 年,现任英伟达首席科学家 Bill Dally 有一天正与斯坦福…

计算机网络(一)-概述(补充)

一.概述 1.新型网络 1.1 基本特点: 网络用语计算机之间的数据传送;网络能够连接不同类型的计算机;所有的网络结点都重要,大大提高了网络的生存性;计算机在进行通信时,必须有冗余的路由;网络结…

费米悖论的三十种解释 | 观点

© David B. Mattingly来源:公众号利维坦(ID:liweitan2014)文:Ella Alderson译:Rachel校对:Yord原文:medium.com/predict/30-solutions-to-the-fermi-paradox-aaabfce56280我常常在思索,我们大多数人选择相信其他星球上存在生…

计算机网络(一)-概述

一.计算机网络 (一)计算机网络概述 1. 概述 1.1 计算机网络是一个将分散的、具有独立功能的计算机系统,通过通信设备与线路连接起来,由功能完善的软件实现资源共享和信息传递的系统。 1.2 互联互通,自治的计算机集…

json数组格式问题

---恢复内容开始--- 使用jsonserver来模拟后台数据接口时犯了一个很低级的错误 找了很久没有发现有什么不对劲的地方,后来仔细发现原来是一个很细微的语法问题:}] 中间不能有逗号!! ---恢复内容结束---转载于:https://www.cnblog…

图灵奖得主Judea Pearl谈机器学习:不能只靠数据

来源:选自Journal of Causal Inference作者:Judea Pearl编译:机器之心编辑:Panda在当前的人工智能研究社区,以数据为中心的方法占据了绝对的主导地位,并且这类方法也确实成就非凡,为语音识别、计…

计算机网络(二)-性能指标

一、计算机网络性能指标 1.时延 1.1 指数据(报文/分组/比特流)从网络(或链路)的一端传送到另一端所需的时间。也叫延迟或迟 延。单位是s。 数据到达路由器是,需要等待,产生排队时延,在路由器里面需要处理数据,包括检错和查找输…

axios请求本地的json文件在打包部署到子目录域名下,路径找不到

前言: 因为要同时部署两个项目,有一个是部署到域名下面的子目录下,如:https://xxx.com/siot-admin vue 项目中使用axios请求了本地项目的static文件夹下的json文件,使用npm run build 打包后,json文件请求不…

中国集成电路设计产业创新发展的认识和思考

来源:半导体行业观察 7月15日—16日,2021中国集成电路设计创新大会暨IC应用博览会在苏州召开。在本次大会高峰论坛上,中国集成电路设计创新联盟专家组组长、东南大学首席教授、南京集成电路产业服务中心(ICisC)主任、…

计算机网络(三)-体系结构

一.分层结构 1.分层的基本原则 各层之间相互独立,每层只实现一种相对独立的功能。每层之间界面自然清晰,易于理解,相互交流尽可能少。结构上可分割开,每层都采用最适合的技术来实现。保持下层对上层的独立性,上层单向…

基于SpringBoot项目的https

基于SpringBoot项目的https 在spring中配置项目运行的端口很简单。 在application.properties中 server.port: 8080 这样配置后,spring boot内嵌的tomcat服务器就是跑在8080端口启动http服务。但是如果在配置中启动https服务,用到的端口也是server.port。…

数年沉寂之后,VR/AR产业开始起飞!

来源:先进制造业现在,“新基建”已成为拉动投资、促进消费、稳定就业和提升综合实力的重要抓手,如何加载高质量的业务生态成为释放新基建发展动能的关键。当前,以虚拟现实VR(包含增强现实AR)为代表的未来视…