陈左宁院士:人工智能模型和算法的七大发展趋势

来源:C114通信网、北京物联网智能技术应用协会

在近日举行的“第十六届CCF全过高性能计算学术年会”上,中国工程院副院长、中国科协副主席、中国工程院院士陈左宁发表了题为《人工智能进展对算力需求分析》的演讲。在演讲中,她阐述了人工智能模型和算法的七大发展趋势。

陈左宁表示,经典的HPC的算力环境可支持现有人工智能的模型算法,但性能功耗比和性价比都较低,并非最适合的,需要创新体系结构和软件架构。

据介绍,人工智能的发展经历了三个历程。从符合主义到连接主义再到行为主义。符号主义主要是用公理和逻辑体系搭建一套人工智能系统。连接主义源于仿生学,主张模仿人类的神经元,用神经网络的连接机制连接人工智能。行为主义控制论意为假设智能取决于感知和行动。

陈左宁称,三大流派日趋融合,协同发展,人工智能的核心特征之一是“关系”。

据介绍,“关系”计算的表现形式有三种。一是连接关系,神经网络中神经网元间的连接。反向传播算法中的梯度传播;进化算法中的变异。二是逻辑关系。RNN中的循环连接以及知识图谱中的关联关系。三是因果关系,贝叶斯、决策树以及强化学习中的控制连接。

在演讲中,陈左宁详细介绍了人工智能模型和算法发展的七大趋势。

趋势一、向无监督的方向发展。主要表现为:适应“小数据”,减少标注需求,减少计算开销。要向无监督方向发展要经历几个阶段。人工智能主动学习阶段,算法主动提出标注请求,将一些经过筛选的数据提交给专家标注。迁移学习阶段,增强训练好的模型,解决目标领域中仅有的少量有标签样本数据的问题。强化学习阶段,用agents构成系统来描述行为并给予评价和反馈学习。

趋势二、可解释(XAI)越来越重要。深度学习如何进一步设计算法和参数,提高泛化能力,需要模型算法可解释。对抗样本导致模型失效,训练数据不可理的被局部放大。模型愈加复杂,失去了可调式性和透明度。

“此时,对于技术的需求就是将可解释技术融入软件环境中去。有两个方法。第一为现有软件框架增加可解释技术接口。提供事后解释的基本技术,比如可视化能力,局部数据分析,特征关联等。现有的软件原生支持多种可解释算法。提供算法或指标评估模型的可解释能力。第二是“人—AI”系统结合。以人为中心,由决策理论驱动的XAI的概念框架。” 陈左宁表示。

趋势三、人工智能的自学习、自演化。这个过程有三个阶段。一是自动化机器学习,主要是利用数据驱动方式来做决策。而是限制约束条件的AutoML。三是不舍初始条件,搜索空间极大丰富的自演化AutoML。这一趋势对于技术的需求有计算框架支撑、大算力支撑以及辅助设备支撑。

趋势四、多种算法、模型的有机结合。单一的算法或模型难以解决实际问题。比如问题分解和多种模型有机组合。人工智能模型的发展希望融入多种技术来解决已有问题。比如,通过贝叶斯技术增强因果关系分析;通过数据生成技术减少标注数据需求;通过AutoML技术提高搜索和挖掘能力。与此同时,人工智能的应用流程也越来越复杂,如,不同流程设计的设备以及环境多样;需要不同的算法和模型组合。多种算法、模型的有机组合的需求是计算存储等可拓展能力。基础软件能力提升,支持复杂模型,不同类型软件的协同和交互。

趋势五、人工智能应用需求需要关注全生命周期。全周期不同人物具有不同时间,空间和计算需求。全生命周期都要考虑可解释、公平等需求。

趋势六、分布式、分散式的需求越来越突出。首先,大型、复杂模型,海量数据需要并行,分布式计算。其次,联邦学习等分散场景需要分布式ML原生算法。使多个参与者可以在不共享数据的情况下构建通用的,健壮的机器学习模型,从而解决关键问题。不同节点上的数据集异构(分布不相同),大小可跨越几个数量级。节点可能不可靠,节点之间的互联可能不稳定。类别优集中式、分散式以及迭代式。这一趋势对安全性、架构、提升效率和效用、健壮性有需求。

趋势七,深度推理。从计算到感知再到认知和意识,人工智能模型和算法的发展趋势七是认知理论的进一步突破。这一趋势的需求有效应对多种形式的不确定性。其中概率计算根据不同精度计算需求设计硬件。根据数据和计算的稀疏分布设计。另外,这一趋势的需求还有类脑、仿脑体系结构以及模拟计算。

陈左宁总结说,总体来说,AI趋势对算力的需求主要是对软件栈的需求。从AI发展趋势的特点来看,关系、概率、近似计算更突出;不要求高精度、高容错;节点上计算简单;人在环路中需求明显。因此,对软件栈的需求更加多样,比如复杂、动态、分布式和分散;支撑新场景以及架构创新。目前AI算法仍在基本计算模式中。

陈左宁坦言:“未来的复杂问题可能会超越此模式,目前的模型和算法主要是低精度张量计算。”

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/485961.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

模板引擎工作原理_广州seo了解下搜索引擎的工作原理是什么

一、搜索引擎工作的基本原理搜索引擎是根据以下原则计算的:首先,我们知道在web浏览器、百度浏览器、google浏览器、360浏览器中都配置了不同的搜索引擎。它们都有一个共同点,一开始捕获一个模块,然后这个模块就像一个软件程序一样…

罗杰·科恩伯格:基础科学——人类进步的希望

论坛 演讲编辑: ∑Gemini来源:数据实战派人物介绍:罗杰科恩伯格(Roger Kornberg),世界顶尖科学家协会主席,斯坦福大学温泽医学教授。因对“真核生物转录的分子基础”的研究,获得2006年诺贝尔化学奖。罗杰•…

python 几种常用测试框架

测试的常用规则 一个测试单元必须关注一个很小的功能函数,证明它是正确的;每个测试单元必须是完全独立的,必须能单独运行。这样意味着每一个测试方法必须重新加载数据,执行完毕后做一些清理工作。通常通过setUp()和setDown()方法处…

服务器系统盘最佳设置,启用系统的硬盘高级性能设置优化硬盘到最佳性能

硬盘性能直接关系到网吧机器的性能,如果是无盘服务器上的硬盘,那更是整个网吧的核心性能。所以一定要好好优化下,下面推荐一个小技巧吧:启用硬盘高级性能 \ 硬件管理器,选一个磁盘,右键属性,上…

ASML 1nm光刻机研究进展:摩尔定律尚未结束

文章来源:Sparrows NEWS、新智元摩尔定律的终点是什么?随着5nm光刻技术的大规模生产和3nm的突破,摩尔定律的终结变得越来越难以捉摸。可以肯定的是,随着过程的进一步改进,其成本将成倍增加。根据日本媒体Mynavi的报道&…

redis为什么选择单线程工作模型

1、先说一下为什么出现进程,线程 进程:在计算机发明之初就发现,在输入数据时(I/O速度慢),CPU是空闲的,这样就浪费了CPU资源,为了充分利用CPU资源,发明了进程,…

​​《自然》2020年十大科学发现出炉:病毒,冷冻电镜与快速射电暴

来源:科研圈作者:陈梦圆、谢一璇、李姗珊、邱燕宁、魏潇科学成就

命令行设置dns_dos命令netsh图文教程,设置修改IP地址子网掩码网关命令行改dns...

大家好,我是老盖,首先感谢观看本文,本篇文章做的有视频,视频讲述的比较详细,也可以看我发布的视频。今天我们学习dos命令中的netsh,这个命令是网络命令,它有很多的功能,今天我们用它…

第三代人工智能基础设施背后,是一次技术应用的常识普及运动

来源:脑极体买了新电脑和手机,你会提前安装好杀毒或安全软件,还是等被黑客攻破了才悔之晚矣?处理传染病疫情,是从源头释放药物和疫苗,还是坐等医院的患者超过治疗和处理能力?面对危机舆情&#…

5 ui自适应窗口_Qt编写地图综合应用5-自适应拉伸

一、前言用过echart的人都会遇到一个问题,就算是代码中写了window.onresize echart.resize,也只是横向自适应拉伸填充页面,垂直方向不会变化,除非指定高度才可以,这就比较郁闷了,为何echart本身不会自适应…

为什么俄罗斯的数学那么牛?

编辑 ∑Gemini来源:奇趣数学苑但在国际上也有一个很著名的说法,就是世界上最好的大学,其实是“美国的学校,中国的学生,俄罗斯的教授”。俄罗斯数学家佩雷尔曼虽然俄罗斯现在相比以前来说,尤其明显的是在一些需要大量设…

查看屏幕大小_疑似“iPhone 12” 的OLED屏幕组件泄露

来自可靠的泄密者的新照片显示了即将面世的“ iPhone 12”所搭载的OLED屏幕。这名泄密者以前曾显示过未来苹果产品的准确图像,此前曾展示过苹果A14芯片组的早期图片,并声称“ iPhone 12”将配备20W电源适配器。现在他在推特上发布了一张照片,…

搭建Hexo博客(一)-创建Hexo环境

Hexo配合github,可以创建自己的博客。基本原理是使用Hexo生成静态页面,发布到github上。在本地需要搭建Hexo环境。 1、安装nodejs 下载并安装NodeJS,官网地址:https://nodejs.org/en/ 2、安装完后,查看安装情况 1 node…

Nature:2020年最佳科学影像,每一张都是壁纸,每一张都是历史

文章来源:学术头条2020年是独一无二的一年。COVID-19大流行将科学推到了最前沿,并深刻影响了人们的生活。但是这一年也产生了许多与病毒无关的新影像。从薄薄的太阳能电池,到经过基因编辑的鱿鱼,下面就是Nature新闻和艺术团队评选…

转 从红帽、GitHub和Docker看开源商业模式的进阶

从红帽、GitHub和Docker看开源商业模式的进阶 发表于2014-12-16 10:26| 7594次阅读| 来源http://stratechery.com/| 0 条评论| 作者Ben ThompsonDocker红帽GitHub开源CoreOS摘要:从技术角度来说,Docker无疑是可圈可点的,比如“write once run…

antimalware可以关闭吗_iPhone最好关闭这4个设置,手机流畅还省电

你抢到新款的iPhone12了吗?80%的小伙伴都会忽略的设置,你的iPhone手机最好关闭以下这4个设置。①关闭ios系统更新操作步骤:打开【设置】-【通用】-【软件更新】-【自动更新】-【下载iOS更新】,关闭即可。这样就不会莫名其妙地下载…

MVVM Light Toolkit使用指南

原文地址: https://blog.csdn.net/ldld1717/article/details/77040077概述MVVM Light Toolkit是一个Android MVVM 轻量级工具库,主要目的是更快捷方便的构建Android MVVM应用程序,工具库添加了一些Data Binding 不支持的属性,还有…

段永朝:界面——之内、之外与之间

来源:苇草智酷01画一个圈儿,就把平面分成圈内,圈外。这个圈儿,就成了界面。垒一道墙,就把空间分成墙里,墙外。这个墙,就成了界面。看一眼手机上的钟表,那一刻闪现的数字,…

mysql面试考点_mysql面试知识点

1 引擎-MyISAM和InnoDB的区别a 是否支持行级锁 :MyISAM 只有表级锁(table-level locking),而InnoDB 支持行级锁(row-level locking)和表级锁,默认为行级锁。b 是否支持事务和崩溃后的安全恢复:MyISAM 强调的是性能,每次查询具有原子性,其执行…

jquery 快速入门二

---恢复内容开始--- 操作标签 样式操作 样式类 addClass();//添加指定的CSS类名。 removeClass();//移除指定的类名. hasClass();//判断样式不存在 toggleClass();//切换css类名,如果有就移除,如果没有就添加 示例:开关灯和模态框 CSS css(&q…