前方高能!AI 大牛 LeCun 设想下一个新前沿:摈弃深度学习的所有概率技巧,改而掌握不断转变的能量值...

640?wx_fmt=jpeg

来源:云头条

据深度学习界的领军人物Yann LeCun声称,AI的下一个发展阶段可能是摈弃深度学习的所有概率技巧,改而掌握不断转变的能量值。

据说工程师(以及一些科学家,但以工程师为主)早在坐到板凳上搞设计之前就能够在头脑中构思尚不存在的东西。

Facebook的AI负责人Yann LeCun似乎再符合这个形象不过了。

他在《当机器学习时》(When the Machine Learns)一书中写道:“我主要凭直觉来工作。”周三出版的这本新书既是一本传记,又是科学讲座,还是AI历史,法语版书名是《Quand la machine apprend》。

640?wx_fmt=jpeg

LeCun写道:“我在脑海里勾勒出那些不大合乎标准的情况,爱因斯坦称之为‘思想实验’。”

640?wx_fmt=png

LeCun在台上神情激昂,试图向听众介绍AI领域来自其思想实验的新知


工程师和创新者的标志就是能够构思不存在的东西,也许是在通常认为可行的极限内。LeCun是AI界的罕见天才,这位科学家不仅精通算法设计,还在计算机工程领域颇有建树。


LeCun今年因其对计算机科学的杰出贡献获得了ACM图灵奖,他最出名的是在1990年代改进和完善了卷积神经网络(即CNN),并使其具有实用性。他并没有从头开始发明CNN,却使CNN具有实用性和可行性。前人奠定了机器学习革命的基础,从而让LeCun以及另外两位获得图灵奖的Geoffrey Hinton和Yoshua Bengio在过去十年脱颖而出。

640?wx_fmt=png


640?wx_fmt=png

周三,LeCun在新泽西州普林斯顿高等研究所上台解释听起来如直觉的理论,但实际上是很完善的直觉。这次会议是为期三天的深度学习研讨会,具体来说主题是深度学习理论。活动由高等研究所的数学教授Sanjeev Arora组织,吸引了AI界的诸多大咖,包括英伟达的AI研究负责人Anima Anandkumar和与LeCun同为Facebook学者的Léon Bottou。

LeCun的幻灯片演示文稿阐述了他最近多次出席讲座所探讨的主题:如何超越传统深度学习的标记训练例子。他对听众说:“在监督或多任务学习方面,我们不会获得像人类那样强大的智能。我们将不得不另辟蹊径。”

LeCun认为,这条另外的蹊径就是无监督学习。为了使无监督学习成为可能,整个AI界可能需要在基于能量的学习(energy-based learning)这种方法上做更多的工作。

能量函数(energy function)在AI界已经存在了数十年。生物学家John Hopfield于1980年代以后来所谓的Hopfield网络(Hopfield Network),首次普及了这种方法。这在当时的机器学习界是一大突破,它催生出了其他类型的学习算法以处理能量场中有待优化的概念,比如Hinton研究的“玻尔兹曼机”。

LeCun说:“基于能量的学习问世已有一段时日;由于需要做的监督工作较少,最近它回到了我的脑海中。”

细节很快变得深奥起来,但是其基本思想是,只要拿来一些丰富的原始数据,比如许多YouTube视频片段,然后馈送给机器,而不是创建大量的标记数据集(比如猫和狗的图片),或者像DeepMind的AlphaZero那样花数千个小时下国际象棋。

LeCun说:“使机器真正很庞大,让它整天看YouTube或Facebook Live。”

可以训练机器以预测每帧视频之后的下一步。预测与现实之间的兼容性就是所谓的能量级。能量级越低越好、越兼容,这意味着越准确,因此神经网络试图达到理想的低能量状态。

LeCun在台上讲起细节之处兴致盎然。他向观众演示了不确定性,笔直注视,来回摆动双臂。LeCun说:“你现在看着我,你在拍我的视频,背景没有变,摄像头没有动。”

“唯一发生的事情是,我可以朝一个方向或另一个方向移动头部,可以以不同的方式移动肌肉,眼下我在这次演讲中我头部的所有图片就是低维流形,以我头部的肌肉数量为上界。”

LeCun传达的讯息在机器学习方面可以说相当激进。按照LeCun的看法,能量函数摈弃概率预测。他说:“我认为,这方面的正确框架就是实际摈弃概率框架,因为它是错误的。”他说,典型的神经网络势必会有“无限权重”,而这“完全是错误的,也没有用。”

很显然,LeCun在设想尚未设计的东西,并试图告知众人。但是其中一些还需假以时日。LeCun随后搭飞机去巴黎与新闻记者会面讨论这本书。本周他上了法国杂志《新观察家》的封面,畅谈AI的希望和危险。他是人人都为之激动或不安的一场运动的领头羊。几十年来,LeCun及其他人士能预见到它,但方法不管用。现在看来新方法效果很好,得由某人来担任监察员,那人就是LeCun。

640?wx_fmt=jpeg

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

640?wx_fmt=jpeg

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/489799.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

2019年中国智能制造发展现状及趋势分析报告

来源:前瞻产业研究院未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网…

元学习—Meta Learning的兴起

来源:专知【导读】元学习描述了训练深度神经网络相关的更高级别的元素。在深度学习文献中,“元学习”一词经常表示神经网络架构的自动化设计,经常引用“ AutoML”,“少量学习”或“神经架构搜索”。OpenAI的魔方机器人手的成功源于…

python3 rid1.7.4.2 控制台中文乱码_TL;DR - 有关 Python 2 和 Sublime Text 中文 Unicode 编码问题的分析与理解...

TL;DR 问题背景: 相信很多用 Sublime Text 来写 Python 2 的同学都遇到过以下这个问题(例如这位同学 /t/100435 和这位同学/t/163012 ): 在 Sublime Text 里用 Cmd (Ctrl) B 运行代码 print u中文,想要打印出 unicode…

服务器行业深度解析:服务器未来需求知多少

来源:国盛证券一、 全球公有云加速渗透叠加企业上云大趋势来临1. 全球云领军收入增速维持高位,Q2 CAPEX 出现恢复信号全球云计算进入甜蜜点,IaaS 市场主导增长。1)2017 年 6 月,Morgan Stanley 认为全球云计算行业进入…

海上瓶子下有东西吗_洗衣液瓶子我从来不扔,瓶身这样剪几刀,解决了很多家庭的大烦恼...

洗衣液瓶子相信家家户户都会有,每次用完的空洗衣液瓶你都扔掉了吗?那就太可惜了,卖废品也卖不了几毛钱,我们可以将废弃的洗衣液瓶简单剪几刀,就能够变废为宝了,能够解决很多家庭生活中的大烦恼。今天就教大…

光耦继电器

光耦继电器(光电继电器) AQW282SX 282SZ 280SX 280SZ 284SX 284SZ 212S 212SX 21 2SZ 文章目录 光耦继电器(光电继电器)前言一、光耦继电器是什么二、光耦继电器的类型三、光电耦合器的应用总结前言 光耦继电器在工业控制、通讯、医疗设备、家电及汽车电子等领域得到广泛应…

媒体查询响应式布局的几个尺寸_媒体查询实现响应式布局

本文主要介绍 media 查询的使用。通过媒体查询,在不同的屏幕尺寸下,可以设置不同的样式。以此,可以完美解决不同屏幕适配的问题。话不多说,先来看看效果:CSSmedia screen and (max-width: 400px) {.btn {background-co…

为什么说,我们可能是宇宙中唯一的智慧生命?

来源:原理我们在宇宙中是孤独的吗?这个问题可归结为:智慧究竟是自然选择的一种可能结果,还是一种不太可能的侥幸?显而易见的是,可能的事件可以经常发生;不太可能的事件很少发生,或者…

jeecg输入中文查询导表为空_学术利器—SCI期刊影响因子查询/中文核心期刊查询系统更新...

吐槽想起自己第一次投中文期刊的情形:当时学校最低要求是发表一篇核心级别的期刊论文,但是哪些期刊是核心期刊呢?完全不知道!都怎么投稿呢?也完全不知道!只能问问周围的同学或者师兄师姐。他们也就知道谁谁…

Python 学习随笔1

在一个列表中,找出重复数组的位置。 比如在列表name [1, 5, 8, 22, 56, 2, 8, 45, 7, 2, 35, 2, 486, 2, 152, 111, 265, 2, 2]中,找出2的位置。 方法1: 流程为: 找到第一个2的位置,然后在2之后的一个数后面切片&…

震撼!15项世界互联网领先科技成果发布,将对你的生活产生什么影响?

来源:浙江发布10月20日下午,世界互联网领先科技成果发布活动在乌镇互联网国际会展中心举行。今年6月,世界互联网大会组委会向全球互联网企业、科研机构、高等院校以及个人征集全球互联网领域的领先科技成果,收到了来自中国、美国、…

java执行查询postgresql得到中文乱码_Greenplum: 基于PostgreSQL的分布式数据库内核揭秘(上篇)...

关于作者姚延栋,山东大学本科,中科院软件所研究生。PostgreSQL中文社区委员,致力于Greenplum/PostgreSQL开源数据库产品、社区和生态的发展。一、数据库内核揭秘Greenplum 是最成熟的开源分布式分析型数据库(今年6月份预计发布的 Greenplum 6…

关于授予81项成果2019年度“吴文俊人工智能科学技术奖”的决定

来源:人工智能人物为加快实施国家创新驱动发展战略,深入贯彻《新一代人工智能发展规划》,更好地推进科教兴国、人才强国的政策落实,弘扬“尊重劳动、尊重知识、尊重人才、尊重创造”的良好风尚,通过推选优秀的智能科学…

mysql索引 和 es索引_MySQL索引 VS ElasticSearch索引

今天MySQL数据库栏目介绍MySQL索引与ElasticSearch索引的对比。前言这段时间在维护产品的搜索功能,每次在管理台看到 elasticsearch 这么高效的查询效率我都很好奇他是如何做到的。这甚至比在我本地使用 MySQL 通过主键的查询速度还快。为此我搜索了相关资料&#x…

开启httponly之后登陆失败_二次元约会模拟《少女都市》正式版登陆Steam 橘势大好...

《少女都市(Shoujo City)》于2018年1月在Steam开启了抢先测试,昨天发布了1.0正式版。这是一款专注于二次元和御宅文化的百合向约会模拟游戏,目前Steam好评率94%,自带简体中文。《少女城市》结合了美少女视觉小说与沙盒式的城市探索冒险&#…

科技/IT:2019 年 Q3 表现最佳和最差的企业

来源:云头条在2019年上半年经历稳步上涨之后,由于全球经济的不确定性和美中贸易紧张局势,2019年第三季度的股市如同过山车。道琼斯指数第三季度(截至9月30日)以26916.83点收盘,比2019年6月28日收盘价上涨1.…

java图片压缩不失真_软件分享 | Lit图片压缩

软件分享01软件名称Lit图片压缩02软件版本V1.2.0.01603软件简介Lit图片压缩app是一款免费简单好用的图片压缩工具,让图片在不失真的情况下,进行压缩和裁剪,轻松就能压缩成你想要的尺寸,并且原来的像素不失真,保持原画质…

从大型主机到个人计算机:机器人产业可以从pc普及革命中学到什么?

来源:大数据文摘出品自主化机器人已逐渐变得无处不在。自动吸尘器、自动割草机、会简单交互的小玩具,以及呼之欲出的自动驾驶汽车,都可以看作是一个能实现某种自动功能的机器人。一辈接着一辈,我们一直在期待出现《星球大战》中的…

【Poj1017】Packets

http://poj.org/problem?id1017 艰难啊 弄了很久咧 拍了几十万组,以后拍要多组数据 Solution 从大wangxiaofang 从大往小放,有空余的从大往小填 注意细节 Notice b<0的情况,还有就是当前填充完了,还剩一点给下一个(小一点的)填 Code // This file is made by YJinpeng&…

构建超级智能未来系统的三原则

《崛起的超级智能》作者&#xff0c;计算机博士刘锋前言&#xff1a;科技领域看不见的手在过去50年促使互联网从网状结构进化成为大脑模型&#xff0c;而人类群体智慧与机器群体智能通过这个互联网大脑架构形成人类前所未有的超级智能形式。在构建互联网大脑模型成熟状态的过程…