中国工程院院士陈左宁详述:人工智能模型和算法的七大发展趋势

来源:C114通信网

在近日举行的“第十六届CCF全过高性能计算学术年会”上,中国工程院副院长、中国科协副主席、中国工程院院士陈左宁发表了题为《人工智能进展对算力需求分析》的演讲。在演讲中,她阐述了人工智能模型和算法的七大发展趋势。

陈左宁表示,经典的HPC的算力环境可支持现有人工智能的模型算法,但性能功耗比和性价比都较低,并非最适合的,需要创新体系结构和软件架构。

据介绍,人工智能的发展经历了三个历程。从符合主义到连接主义再到行为主义。符号主义主要是用公理和逻辑体系搭建一套人工智能系统。连接主义源于仿生学,主张模仿人类的神经元,用神经网络的连接机制连接人工智能。行为主义控制论意为假设智能取决于感知和行动。

陈左宁称,三大流派日趋融合,协同发展,人工智能的核心特征之一是“关系”。

据介绍,“关系”计算的表现形式有三种。一是连接关系,神经网络中神经网元间的连接。反向传播算法中的梯度传播;进化算法中的变异。二是逻辑关系。RNN中的循环连接以及知识图谱中的关联关系。三是因果关系,贝叶斯、决策树以及强化学习中的控制连接。

在演讲中,陈左宁详细介绍了人工智能模型和算法发展的七大趋势。

趋势一、向无监督的方向发展。主要表现为:适应“小数据”,减少标注需求,减少计算开销。要向无监督方向发展要经历几个阶段。人工智能主动学习阶段,算法主动提出标注请求,将一些经过筛选的数据提交给专家标注。迁移学习阶段,增强训练好的模型,解决目标领域中仅有的少量有标签样本数据的问题。强化学习阶段,用agents构成系统来描述行为并给予评价和反馈学习。

趋势二、可解释(XAI)越来越重要。深度学习如何进一步设计算法和参数,提高泛化能力,需要模型算法可解释。对抗样本导致模型失效,训练数据不可理的被局部放大。模型愈加复杂,失去了可调式性和透明度。

“此时,对于技术的需求就是将可解释技术融入软件环境中去。有两个方法。第一为现有软件框架增加可解释技术接口。提供事后解释的基本技术,比如可视化能力,局部数据分析,特征关联等。现有的软件原生支持多种可解释算法。提供算法或指标评估模型的可解释能力。第二是“人—AI”系统结合。以人为中心,由决策理论驱动的XAI的概念框架。” 陈左宁表示。

趋势三、人工智能的自学习、自演化。这个过程有三个阶段。一是自动化机器学习,主要是利用数据驱动方式来做决策。而是限制约束条件的AutoML。三是不舍初始条件,搜索空间极大丰富的自演化AutoML。这一趋势对于技术的需求有计算框架支撑、大算力支撑以及辅助设备支撑。

趋势四、多种算法、模型的有机结合。单一的算法或模型难以解决实际问题。比如问题分解和多种模型有机组合。人工智能模型的发展希望融入多种技术来解决已有问题。比如,通过贝叶斯技术增强因果关系分析;通过数据生成技术减少标注数据需求;通过AutoML技术提高搜索和挖掘能力。与此同时,人工智能的应用流程也越来越复杂,如,不同流程设计的设备以及环境多样;需要不同的算法和模型组合。多种算法、模型的有机组合的需求是计算存储等可拓展能力。基础软件能力提升,支持复杂模型,不同类型软件的协同和交互。

趋势五、人工智能应用需求需要关注全生命周期。全周期不同人物具有不同时间,空间和计算需求。全生命周期都要考虑可解释、公平等需求。

趋势六、分布式、分散式的需求越来越突出。首先,大型、复杂模型,海量数据需要并行,分布式计算。其次,联邦学习等分散场景需要分布式ML原生算法。使多个参与者可以在不共享数据的情况下构建通用的,健壮的机器学习模型,从而解决关键问题。不同节点上的数据集异构(分布不相同),大小可跨越几个数量级。节点可能不可靠,节点之间的互联可能不稳定。类别优集中式、分散式以及迭代式。这一趋势对安全性、架构、提升效率和效用、健壮性有需求。

趋势七,深度推理。从计算到感知再到认知和意识,人工智能模型和算法的发展趋势七是认知理论的进一步突破。这一趋势的需求有效应对多种形式的不确定性。其中概率计算根据不同精度计算需求设计硬件。根据数据和计算的稀疏分布设计。另外,这一趋势的需求还有类脑、仿脑体系结构以及模拟计算。

陈左宁总结说,总体来说,AI趋势对算力的需求主要是对软件栈的需求。从AI发展趋势的特点来看,关系、概率、近似计算更突出;不要求高精度、高容错;节点上计算简单;人在环路中需求明显。因此,对软件栈的需求更加多样,比如复杂、动态、分布式和分散;支撑新场景以及架构创新。目前AI算法仍在基本计算模式中。

陈左宁坦言:“未来的复杂问题可能会超越此模式,目前的模型和算法主要是低精度张量计算。”

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/486830.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

量子计算技术的研究现状与趋势

来源:《中国科学》 2020年 第50卷 第9期作者:郭光灿导读:1900年 Max Planck 提出“量子”概念,宣告了“量子”时代的诞生。科学家发现,微观粒子有着与宏观世界的物理客体完全不同的特性。宏观世界的物理客体&#xf…

Java毕业设计——springboot+vue电影院会员管理系统

1,项目背景 随着互联网时代的到来,同时计算机网络技术高速发展,网络管理运用也变得越来越广泛。因此,建立一个B/S结构的电影院会员管理系统;电影院会员管理系统的管理工作系统化、规范化,也会提高影院形象…

idea创建maven web项目

创建maven web项目 1:首先打开idea,点击“create new project“,在左边一栏找到maven,右边把“create from archetype“钩上,根据模版来创建项目, 注意在选择模版的时候一定要选择org.apache.maven.archety…

世界一流大学观察报告:斯坦福大学何以后来居上?

斯坦福大学(Stanford University)本文转自 管理学季刊 公众号文|石毓智,斯坦福大学博士、新加坡国立大学终身教职只有短短120年历史的斯坦福大学,已有近30人获得诺奖,不要说世界上其他大学难以匹敌,就是拿国家来比,能超…

PowerShell(PHPStorm terminal with PowerShell)运行git log中文乱码

解决方案: 1)以管理员身份运行PowerShell 2)新建一个针对PowerShell的Pofile文件 New-Item -Path $Profile -ItemType file -Force3)用记事本打开这个文件 notepad $Profile4)然后输入并保存退出 $env:LC_ALLC.UTF-85&…

机器学习研究者必知的八个神经网络架构

本文转自计算机视觉研究院本文简述了机器学习核心结构的历史发展,并总结了研究者需要熟知的 8 个神经网络架构。我们为什么需要「机器学习」?机器学习对于那些我们直接编程太过复杂的任务来说是必需的。有些任务很复杂,以至于人类不可能解决任…

php伪静态失败,php伪静态后html不能访问怎么办

php伪静态后html不能访问的解决办法:首先判断文件是否存在;然后设置存在则不rewirte,不存在且符合规则才rewrite;最后修改htaccess文件即可。具体问题:PHP伪静态后不能访问纯html文件.htaccess文件RewriteEngine onRew…

LR-IE录制设置

ie浏览器去掉启用第三方浏览器扩展,路径。 ie浏览器-工具-internet选项-高级,在列表中找到“启用第三方浏览器扩展” 把钩去掉 。 启动loadrunner11,按键盘F4,在browser Emulation点击change,在弹出的提示框中Browser …

芯片的未来,靠这些技术了

来源:内容来自「technews」,谢谢。除了先进制程之外,先进封装也成为延续摩尔定律的关键技术,像是2.5D、3D 和Chiplets 等技术在近年来成为半导体产业的热门议题。究竟,先进封装是如何在延续摩尔定律上扮演关键角色&…

php 判断不是文件类型,php 判断文件类型

[php]代码库$files array (c:\1.jpg,c:\1.png,c:\1.gif,c:\1.rar,c:\1.zip,c:\1.exe,);foreach ( $files AS $file ){$fp fopen ( $file, "rb" );$bin fread ( $fp, 2 ); //只读2字节fclose ( $fp );$str_info unpack ( "C2chars", $bin );$type_code …

剑桥大学2020《AI全景报告》出炉,177页ppt

转载机器之心作者:泽南、蛋酱、小舟NeurIPS 接收论文中,29% 的作者有中国大学的本科学位,但他们在毕业后有 54% 会去美国攻读研究生博士,这其中又有 90% 选择留美工作。剑桥大学的 2020 版《AI 全景报告》写出了 AI 领域哪些值得关…

centos 7 Hadoop2.7.4完全分布式搭建(一)

(一)系统准备与安装 1.准备下载centos7 (百度自行下载)可以到开源镜像站下载,速度比较快,比如清华的或者阿里的 在vmware上安装 这里我用的是vmware12 打开Vmware 选择文件 选择自定义 选择稍后安装系统 …

神经网络其实和人一样懒惰,喜欢走捷径......

作者 | Jrn-Henrik Jacobsen, Robert Geirhos, Claudio Michaelis,深度学习研究专家译者 | Arvin,责编 | 夕颜出品 | CSDN(ID:CSDNnews)以下为译文:人工智能会很快取代放射科医生吗?最近,研究人…

2017-2018年Scrum状态调查报告

HOW SCRUM IS USED在2017年的报告中,Scrum的应用范围在扩大,已经从其发源的IT部门扩展到了相距甚远的业务部门。2017-2018年度报告的其中一个主要目标就是关注更广泛的敏捷转型,看看不同行业中影响Scrum企业应用及区域应用的细微差别。在这份…

麻省理工选出的全球十大突破性技术

来源:广东省创新孵化器运营研究院《麻省理工科技评论》每年都会评选出当年的“十大突破性技术”,这份在全球科技领域举足轻重的榜单,曾精准预测了脑机接口、智能手表、癌症基因疗法、深度学习等诸多热门技术的崛起。正如比尔盖茨所说&#xf…

从信息传递的视角看因果关系

来源:混沌巡洋舰因果推断让大数据更有温度在六种看待因果关系的视角(机制,反事实,干预,过程,信息传递及概率因果)中,信息传递是潜在应用最广泛的一种。当我们想弄清楚是什么导致某件…

springboot入门_模板

springboot中已经不推荐使用jsp,而是推荐使用模板,如freemarker,thymeleaf等,本文记录在sprigboot中使用模板。 创建一个maven的springboot工程, freemarker,要使用freemarker模板需引入所需要的jar&#x…

姚期智:当科学家发现自己喜欢探索的方向,整个世界会像打游戏一样愉悦

来源:上观新闻 作者:舒抒发现一个大定理的喜悦程度,和小时候吃第一口冰激凌、第一块巧克力是一样的。“走在滨江大道,能闻到江风吹来的桂花香。”夏秋交替之际来到上海,江风、江景和丹桂飘香,让姚期智在演讲…

imageloader图片基本加载

初始化&#xff1a; 配置初始化&#xff1a; <application android:name".Jiaimgapp"使用&#xff1a; http://blog.csdn.net/vipzjyno1/article/details/23206387 http://blog.csdn.net/vipzjyno1/article/details/23206387 http://blog.csdn.net/hudashi/ar…

刚获得物理诺奖的数学家:现实是对完美数学真理的扭曲反应,人脑是最终量子计算机!...

来源&#xff1a; 数学竞赛的那些事儿在20世纪中期&#xff0c;数学探究自然模式的能力被大大地增强了&#xff0c;如果那些远古的几何学者们看到这一切&#xff0c;必将大为惊愕甚至迷惑不解&#xff0c;在极为宏观的尺度上&#xff0c;天文学家们以整个银河系为基本单位&…