展望:模型驱动的深度学习

来源:《国家科学评论》

概要:近年来,深度学习在人工智能领域一系列困难问题上取得了突破性成功应用。


模型驱动的深度学习方法


近年来,深度学习在人工智能领域一系列困难问题上取得了突破性成功应用。例如用于人脸识别已高于人的正确识别率、用于语音识别与机器翻译已接近达到同声翻译和‵讲完稿出'的水平、用于围棋竞赛已达到完胜人类世界冠军的水平、用于一些疾病的诊断巳能与中、高级专业医师水平匹敌。现在,深度学习技术在信息科学各领域已无处不在、并正成为各自领域的标准方法。


尽管深度学习取得重大进展,但人们对人工神经网络拓扑与性能的对应关系仍然缺少理论上的认知,网络拓扑选择目前还是一项工程技术而并没有成为科学。这直接导致了现有深度学习多半是缺少理论基础的启发式方法。设计难、解释难、结果不可预知已成为深度学习公认的缺撼。


《国家科学评论》最近发表了西安交通大学数学与统计学院徐宗本院士、孙剑教授撰写的“Model-driven deep learning”的观点文章(National Science Review, 2017,https://doi.org/10.1093/nsr/nwx099)。这篇文章尝试解决深度学习的网络拓扑选择问题,目的是实现可设计、可解释以及结果可预期的深度学习方法。文章提出一种模型驱动与数据驱动相结合深度学习方法。众所周知,深度学习是一种标准的数据驱动型方法,它将深度网络作为黑箱依赖于大量数据解决现实问题;而模型驱动方法则是从目标、机理、先验出发首先形成学习的一个代价函数,然后通过极小化代价函数来解决问题。模型驱动方法的最大优点是只要模型足够精确,解的质量可预期甚至能达到最优,而且求解方法是确定的,但模型驱动方法的缺陷是在应用中难能精确建模,而且对建模的精确性追求通常只能是一种奢望。


模型驱动深度学习方法有效结合了模型驱动和数据驱动方法的优势,文章中给出了模型驱动深度学习的标准流程:(1)根据问题,建立模型族(Family of Models);(2)根据模型族,设计算法族(Family of Algorithms)并建立算法族的收敛性理论;(3)将算法族展开(unfold)成深度网络并实施深度学习。文中还介绍了课题组研究并实践的一系列模型驱动与数据驱动结合的深度等习方法,展现了该方法在解决实际问题上的有效性。



未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。由互联网进化论作者,计算机博士刘锋与中国科学院虚拟经济与数据科学研究中心石勇、刘颖教授创建。


未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/497465.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

JPA架构

JPA(Java持久性API)是存储业务实体关联的实体的来源。它显示了如何定义一个面向普通Java对象(POJO)作为一个实体,以及如何与管理关系实体。 类级别架构 下图显示了JPA的类的层次结构。它显示核心类和JPA接口。 下表描述了每个在上述架构的显示单元。 单元描述Ent…

Amazon Go开门营业,号称无需现金、无需排队结账,现场究竟体验如何?

来源:36氪概要:无人零售的鼻祖Amazon Go姗姗来迟,那么体验究竟如何呢?无人零售的鼻祖Amazon Go姗姗来迟,那么体验究竟如何呢?当地时间周一(1月22日),位于西雅图亚马逊总部…

哪些是Linux内核的同步机制,Linux内核的同步机制(1)

Linux内核的同步机制(1)yanqin | 2009-04-16 14:51:09 阅读:791发布文章一、 引言%A%A 在现代操作系统里,同一时间可能有多个内核执行流在执行,因此内核其实象多进程多线程编程一样也需要一些同步机制来同步各执行单元对共享数据的访问。尤…

量子机器学习入门科普:解读量子力学和机器学习的共生关系

原作:Reena Shaw安妮 编译自 KDnuggets量子位 出品 | 公众号 QbitAI量子机器学习(Quantum ML)是量子力学和机器学习的一门交叉学科。两者间像一种共生关系,我们可以利用量子计算的力量生成机器学习算法的量子版本,并应…

RedissonClient 缓存Bug

引入背景 期望RedissonClient 能定期更新&#xff0c;避免网络不稳定导致 Redis 连接失效&#xff0c;只能重启服务&#xff1f; 使用了Caffeine 缓存&#xff0c;自动 2 小时失效剔除RedissonClient /*** 本地缓存.*/private static final Cache<String, RedissonClient&g…

人工智能重构下的金融场景

来源&#xff1a;亿欧概要&#xff1a;从金融领域来看&#xff0c;国际银行业对人工智能的主要应用集中在资本运营、市场分析、客户营销、风险监管等方面。智能客服、智能投顾、智能量化交易……人工智能在金融领域存在巨大的发展空间&#xff0c;但其也使监管更加复杂。近年来…

linux中写脚本不能写中文,Linux系统中Sublime Text无法输入中文怎么办?

Sublime Text是一个代码编辑器&#xff0c;拥有强大的功能&#xff0c;但Sublime Text 在Linux下运行的时候存在无法输入中文的问题&#xff0c;遇到该问题该如何解决呢&#xff1f;下面小编就给大家介绍下Linux下Sublime Text 无法输入中文的解决方法。1.保存下面的代码为subl…

深度学习引擎的终极形态是什么?

来源&#xff1a;微软研究院AI头条概要&#xff1a;1月17日&#xff0c;院友袁进辉博士回到微软亚洲研究院做了题为《打造最强深度学习引擎》的报告&#xff0c;分享了深度学习框架方面的技术进展。1月17日&#xff0c;院友袁进辉博士回到微软亚洲研究院做了题为《打造最强深度…

linux进程映像由哪些构成,Linux编程开发进程映像类型分析

进程与线程问题是程序员在学习编程开发语言需要重点掌握的编程知识之一&#xff0c;而今天我们就一起来了解一下&#xff0c;Linux编程开发中进程映像的执行标准。什么是进程映像呢?进程映像是执行程序时所需要的可执行文件&#xff0c;通常会包括下面这些东西代码段(codesegm…

AI芯片之争白热化的当下,如何设计一款真正适用于终端的AI芯片?

来源&#xff1a;36氪概要&#xff1a;2017年&#xff0c;人工智能最火的风口一定是AI芯片。2017年&#xff0c;人工智能最火的风口一定是AI芯片。AI芯片的出现&#xff0c;与深度学习技术的成熟及应用密不可分。深度学习的过程可以简化理解为利用大量标注的数据进行训练&#…

李开复:AI巨头是有史以来最难以打破的垄断

来源&#xff1a;凤凰网概要&#xff1a;李开复认为目前最需要的是小的AI公司&#xff0c;甚至于打破巨头垄断局面的“破局者”也会是这些由小变大的AI公司。当地时间周二(1月23日)&#xff0c;世界经济论坛在瑞士达沃斯小镇正式举行&#xff0c;各国政要、企业家、学者云集。创…

杨立昆辞Facebook人工智能实验室主任,任首席科学家

来源&#xff1a;澎湃新闻概要&#xff1a;他将不再担任Facebook 人工智能实验室主任一职&#xff0c;改任Facebook首席人工智能科学家&#xff0c;从而能更加专注于带领科学研究与AI策略。当地时间1月23日&#xff0c;执掌Facebook人工智能实验室&#xff08;FAIR&#xff09;…

Redis系列一、redis介绍与安装

一、Redis介绍 redis是一种基于键值对&#xff08;key-value&#xff09;数据库&#xff0c;其中value可以为string、hash、list、set、sorted set等多种数据结构&#xff0c;可以满足很多应用场景。还提供了键过期&#xff0c;发布订阅&#xff0c;事务&#xff0c;流水线&am…

redhat6.3的linux内核版本,1-6-RHEL6.3-内核升级(Red Hat Enterprise Linux Server6.3)@树袋飘零...

本节介绍内容&#xff1a;1、内核的概述2、源码编译安装文件系统中的ntfs内核模块案例分析1、内核的概述Linux操作系统是用来跟硬件和用户程序互联的支撑平台&#xff0c;设备的驱动程序完全可以访问硬件&#xff0c;而设备的驱动程序以模块化的形式设置&#xff0c;可以进行安…

MIT人工突触芯片新突破:指甲大小的芯片有望媲美超算

原作 Jennifer ChuRoot 编译自 MIT News量子位 出品 | 公众号 QbitAI论传递信息的能力&#xff0c;计算机的二进制目前还比不上人脑。因为大脑神经元之间传递的信号形式远多过0或1两种&#xff1a;根据突触&#xff08;神经元之间的结构&#xff09;间不同的神经递质&#xff0…

Redis系列二、redis的五种数据结构和相关指令之String

redis是一种基于键值对&#xff08;key-value&#xff09;的内存数据库&#xff0c;redis数据结构可以分为string、hash、list、set、sorted set。本节中将介绍Redis支持的主要数据结构中的string&#xff0c;以及相关的常用Redis命令。 redis的五种数据结构和相关指令之Strin…

体积最小桌面linux,Tiny Core Linux - 体积最小的精简 Linux 操作系统发行版之一 (仅10多MB) - 蓝月网络...

Tiny Core Linux (TCL) 是一款极体积极小且高度可扩展的微型 Linux 发行版&#xff0c;它将一个 Linux 操作系统精简到仅有 10 多 MB 左右的大小&#xff0c;似乎小巧得有点让人叹为观止&#xff01;要知道无论是常见的 Ubuntu、CentOS、Debian 的体积动辄就是几百MB甚至要上GB…

美国公布长达35页的《2016-2045年新兴科技趋势报告》

来源&#xff1a;云谷资本概要&#xff1a;前段时间美国公布的一份长达35页的《2016-2045年新兴科技趋势报告》。该报告是在美国过去五年内由政府机构、咨询机构、智囊团、科研机构等发表的32份科技趋势相关研究调查报告的基础上提炼形成的。前段时间美国公布的一份长达35页的《…

Redis系列三、redis的五种数据结构和相关指令之Hash

本节中将介绍Redis支持的主要数据结构&#xff0c;以及相关的常用Redis命令。redis是一种基于键值对&#xff08;key-value&#xff09;的内存数据库&#xff0c;redis数据结构可以分为string、hash、list、set、sorted set。 redis的五种数据结构和相关指令之Hash 哈希hash …

深度学习在推荐系统上的应用

作者&#xff1a;陈仲铭&#xff0c;知乎 ID&#xff1a;ZOMI深度学习最近大红大紫&#xff0c;深度学习的爆发使得人工智能进一步发展&#xff0c;阿里、腾讯、百度先后建立了自己的AI Labs&#xff0c;就连传统的厂商OPPO、VIVO都在今年开始筹备建立自己的人工智能研究所。确…