在分析了AI顶会上的6163篇论文后,我们能发现怎样的发展趋势与变化……

来源:机器人圈

概要:最近,有关人工智能(AI)的研究在各个领域都取得了显著的成果。这主要归功于长期以来一直致力于这个研究领域的AI研究人员的努力。


最近,有关人工智能(AI)的研究在各个领域都取得了显著的成果。这主要归功于长期以来一直致力于这个研究领域的AI研究人员的努力。如果根据引用次数、参与人数、接受论文数量和历史记录来看的话,关于AI的最重要的学术会议就是ICML(International Conference on Machine Learning)和NIPS(Neural Information Processing Systems)。相较于ICML的重点是机器学习,NIPS涵盖的课题领域就较为广泛了,包括认知科学和应用机器学习。在37年前的1980年,ICML举行了第一次学术会议,并于今年8月在澳大利亚悉尼举行了第34次会议。NIPS成立于1987年,并计划于2017年12月在加利福尼亚举行第30届会议。


为了研究AI研究领域的最新趋势,研究小组对2005年至2016年期间ICML和NIPS发表的6163篇科学论文进行了荟萃分析。最新的研究结果揭示了AI研究的最新趋势和变化。通过对过去12年来被引用次数最多的论文进行研究,从各种角度,如累积引用,作者的合作网络,以及论文中关键字的变化。分析了最近的趋势和变化,从诸如累积引用,作者的合作网络,以及论文中关键字的变化等角度入手,以分析AI研究领域最新的发展趋势和变化。


[1.过去12年接受的论文数量的变化]

 

ICML在过去12年接受的论文数量的变化


从2005年到2016年,ICML总共接受了2315份论文。2016年接受的论文数量为322篇,比11年前的134篇论文翻了一倍还多。


NIPS在过去12年接受的论文数量的变化


而至于NIPS,接受的论文数量从2005年的207份增加到2016年的568份,增加了一倍多。


研究团队可以证实,对于ICML和NIPS来说,2012年接受的论文数量与2011年相比都有显著上升。这是2012年人工智能研究历史上的一个重要事件。2012年,Geoffrey E.Hinton教授和他的团队(多伦多大学)在Imagenet大型视觉识别大赛(ILSVRC)中使用深度神经网络展示了一个很好的成果。


[2.作者引用次数]

 

在过去的12年里,ICML中被引用次数最高的前20名作者

 

在过去的12年里,NIPS中被引用次数最高的前20名作者



 在过去的12年里,ICML和NIPS中累计被引用次数最高的前20名作者


以下图表显示了(分别为NIPS和ICML)中接受论文和被引用总数最高的前30名作者。 https://github.com/giallo41/Data_Science/blob/master/Conf/data/ALL_most_cited_author_Graph.xlsx

 





以下图表表示的是年度引用次数最多的15名作者:


在被引用最多的15名作者中,每年被引用次数的变化


 在被引用最多的15名作者中,年度论文的变化


该研究小组调查了在ICM和NIPS中排名前15位的作者的12年变化趋势。之所以选择15个作者的原因是,这个数字可以通过数据可视化显示出最有效的趋势。上面的图表显示了这15位作者的累计引用次数和被接受的论文数量。他们表示,那些在接受论文数量上逐渐变化的作者,每年也会不断地发表论文。在GitHub上可以找到完整的ICML和累计引用的列表。


下表列出了以上图表中15位作者所发表的论文中引用最多的论文。(下载原始文件)(https://github.com/giallo41/Data_Science/blob/master/Conf/data/Top15_most_cited_papers.xlsx


大多数引用的文章由这15位作者撰写


[3.合作网络]

 

具有较高引用率的作者合作网络


上图显示了ICML和NIPS接受的论文中被引用最多的作者的协作网络。粗体线意味着他们经常作为合作者出版。为了更好地进行分析,研究团队创建了由15位被引用次数最多的作者发表论文的共同作者的关系网络图。分析中使用的数据可以在GitHub中找到。 (下载原始图片)(https://github.com/giallo41/Data_Science/blob/master/Conf/author_network.png


[4. 最常用于标题的关键字]


为了间接地展示出过去12年里人工智能领域的研究课题的变化,研究团队分析了论文标题中的关键字的变化。首先,团队在过去的12年中,用了词“云”来了解趋势变化的大致情况。过去12年在ICML和NIPS中使用频率最高的两个关键字是“学习”和“模型”。由于这两个词是目标研究期间在论文标题中出现的频率最高,所以团队认为,除了这两个词之外的其他关键字将显示AI研究的趋势变化。选定的基础年份是2006年,2011年和2016年。选择5年的时间间隔能够更为清楚地研究变化。


出现在ICML接受的论文标题中的关键词(更大的词意味着它们更常用于标题中。)


ICML 2006

 

ICML 2011

  

ICML 2016

 

对于ICML收录的论文,2006年论文题目中最常使用的关键词是“贝叶斯”、“核”和“分类”。 但是,2016年收录的论文则频繁出现“网络”、“算法”、“优化”,“深度”等关键词。

 

NIPS收录的论文标题中出现的关键字(越大的词意味着它们更常在标题中出现)。

 

NIPS 2006

 

NIPS 2011

  

NIPS 2016

 

对于NIPS收录的论文,2006年论文题目中最常使用的关键词是“贝叶斯”、“核”、“分类”和“聚类”,与ICML收录的论文中出现的相似。相比之下,“深度”、“自然”、“网络”和“随机”等词在2016年被NIPS收录的论文中出现最为频繁。对这些关键词的考察,我们了解了过去10年研究主题的变化。

 

为了了解过去10年人工智能研究课题的变化,对频繁出现的标题关键词进行了分析。

  

ICML录用论文中的标题关键词比较:2006年和2016年

  

NIPS录用论文中的标题关键词比较:2006年和2016年

 

虽然关键字“深度”在ICML中没有出现,但在2006年的NIPS中只出现一次,但在2016年随着“网络”一词成为最显著的关键字,在ICML中出现了22次,在NIPS中出现了43次。

 

年度文章标题的主要关键词的出现次数比较:

 












年度ICML论文中主要关键词出现次数的变化














年度NIPS论文中主要关键词的出现次数的变化

 

[5.AI领域研究员网络]


AI研究网络的主要broker是Michael I. Jordan。


研究团队还根据NIPS和ICML的录用论文,对研究人员网络进行了研究。特别注意网络中研究人员的身份。所选择的基本指标是度中心性(degree centrality),其通过对每个实体对网络中的其他实体的直接链接的数量进行计数来衡量实体的连接度,以及中介中心性(Betweenness Centrality),指的是作为连接网络中的其他实体的broker的能力。为了将这两个概念应用于研究网络,度中心性意味着研究人员之间的直接联系的程度,而中介中心性意味着研究人员之间broker的能力。对于构成网络结构的研究人员数量,NIPS为5878人,ICML为3949人。基于网络分析的结果,以度中心性和中介中心性排名前20位的研究人员如下所示。图中的索引是使用顶部数字的绝对值作为分母的标准化值,这使得相对比较更容易。

 

对于NIPS来说,加州大学伯克利分校教授Michael I. Jordan在度中心性和中介中心性领域排名第一。Jordan也是吴恩达的指导教授,他被称为四大AI大神之一。在ICML中介中心性领域Jordan排名第一。这意味着Michael I. Jordan是AI研究网络的灵魂人物。换句话说,他是连接两个研讨会研究网络研究人员的关键实体。通常,broker对网络内的通信进行控制,网络的成员依赖于broker。网络分析表明Michael I. Jordan一直是人工智能研究的中心人物。

 

除了Jordan,所谓的AI大神,如Jordan的学生吴达恩,Geoffrey E. Hinton和Yoshua Bengio也占据了网络排名的顶层。在韩国,密歇根大学计算机科学与工程系教授Honglak Lee在ICML排名第十九位,他是在吴恩达的指导下完成博士论文的。

 

处于中心的Michael I. Jordan的AI研究人员网络如下所示。


ICML作者网络关系分析


NIPS作者网络关系分析

 

1.数据收集


ICML会议:http://www.machinelearning.org/icml.html

NIPS 进程:https://papers.nips.cc/

2005年至2016年期间录用的论文被使用情况。

 

2.抽样


使用了2005年至2016年间在ICML录用的2315篇论文和NIPS录用的3848篇论文。

 

3.论文引文


使用网站https://scholar.google.co.kr检查文章标题的引用。随着新论文的录用,现有论文的引用次数逐渐增加。为分析目的,引用次数为4月21日的数量为基础。

 

4.分析方法


https://github.com/giallo41/Data_Science/tree/master/Conf

研究团队收集的数据文件和用于分析的Python源代码可以在这里找到。

 

 ICML和NIPS论文题目、作者以及过去12年每篇论文的引用次数以Excel格式统计,并使用Python的Pandas DataFrame进行分析。

 

添加了每个作者过去12年的累计引用次数,并且使用dataframe.sort()方法选择了大多数引用的作者。

 

对于论文标题分析,标题中的单词被分隔并转换为小写。那么这样的话,就像‘:’, ‘?’, ‘for’, ‘a’, ‘an’ ,’in’, ‘of’, ‘with’, ‘and’, ‘the’, ‘to’, ‘on’, ‘from’, ‘by’, ‘using’, ‘very’, ‘via’, ‘it’, ‘that’, ‘as’, ‘,’ ,’which’, ‘-’, ‘through’, ‘without’, ‘while’, ‘is’, ‘than’, ‘where’, ‘much’, ‘many’, ‘or’ 和 ‘so’被丢弃。

 

 由Python提供的单词云包用于词云分析,其描述了每个关键字在相对字体大小方面的发生频率。

 

5.网络分析的概念和方法


(1)概念


有时研究人员独立主导完成研究,有时与其他人合作进行研究。我们假设有研究员A,研究A可以参与研究(a),也参与研究(b)。在这种情况下,研究人员A可以作为两个研究之间的桥梁。正如我们从这个例子中所看到的,中间人有可能在一个网络中连接不同的信息或知识。在许多对网络结构感兴趣的领域,包括组织社会学,(可能)担任中间人角色的实体对已经使用“中介中心性(betweenness centrality)”的概念进行了研究。该方法也适用于本文。此外,考察实体之间的联系程度的度中心性(Degree Centrality)也被用作测量指标。度中心性确定一个实体对与其相关的其他实体的影响程度。


(2)方法


在2005—2016年期间NIPS和ICML录用的论文作者做出总结。ICML的研究人员为3949人,NIPS为5878人。作者的列表被排序成行和列,产生一个方形矩阵。 ICML是一个3949×3949矩阵,NIPS是一个5878×5878矩阵。我们计算了每位研究人员与其他研究人员一起写论文的次数。如果A和B一起写了四篇论文,那么A列B列中的值为4。这个矩阵是使用UCINET 6.0进行分析的,这是一个网络分析工具。从分析结果中,我们分别提取了分别为度中心性和中介中间性前20名。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/498588.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

如果linux目录中没有srv,了解linux系统目录,proc,root,sbin,selinux,srv!

linux小白到大神的成长之路:了解linux系统目录,proc,root,sbin,selinux,srv!本经验由宗龙龙原创,全文共600多字,阅读需要14分钟,如果文中存在错误,还请大家多多指点,我会积极改进的!…

争夺基础架构主导权,AI 新一轮战争将打响?

来源:36氪概要:近日,Applied Materials CEO Gary Dickerson在接受采访时表示,近期,巨头们将会围绕“构建下一代人工智能的基础框架”展开新一轮的战争。经过了这么长时间的“炒作”,人工智能的发展与应用到…

linux配置redis服务,Linux下安装Redis并设置相关服务

一、简介Redis是一个开源,先进的key-value存储,并用于构建高性能,可扩展的Web应用程序的完美解决方案。Redis从它的许多竞争继承来的三个主要特点:Redis数据库完全在内存中,使用磁盘仅用于持久性。相比许多键值数据存储…

学术界盛事揭幕:一图解读跨越百余年的诺贝尔奖

来源:科学网概要:金秋十月的第二天,2017年诺贝尔奖颁奖周拉开帷幕,全世界的目光都聚焦到瑞典。金秋十月的第二天,2017年诺贝尔奖颁奖周拉开帷幕,全世界的目光都聚焦到瑞典。在接下来的几天内,物…

shell linux教程,Shell入门基础知识

Shell 简介Shell作为命令语言,它交互式地解释和执行用户输入的命令;作为程序设计语言,它定义了各种变量和参数,并提供了许多在高级语言中才具有的控制结构,包括循环和分支。常常作为批处理命令来使用,用来提…

IBM用量子计算机成功模拟分子,登上《自然》封面

来源:澎湃新闻概要:当地时间9月13日,IBM宣布,在自己的超导量子设备上实现了一种新的量子算法,这种算法可以模拟真实分子,能够高效精确地计算出小分子电子的最低能态(energy state)。…

浅析强化学习及使用Policy Network实现自动化控制

来源:极客头条概要:强化学习已经有几十年的历史,但是直到最近几年深度学习技术的突破,强化学习才有了比较大的进展。浅析强化学习一个强化学习问题包含三个主要概念,即环境状态(Environment State&#xf…

“脑科学”已成大国“必争之地” 看各国都亮哪些大招 | 2030年中国脑计划将闯入“终极疆域” 脑科学将成为大国必争之地

来源:战略前沿技术概要:脑科学的知识将奠定即将到来新时代之基础。凭这些知识我们可医治大量疾病,建造模仿脑功能的新机器,而且更深入地理解我们自己的本质以及我们如何认识世界。一年前,“阿尔法围棋”战胜李世石引来…

2017年诺贝尔生理学或医学奖揭晓

来源:科学网、中国新闻网编者按:北京时间10月2日下午5点30分,2017年诺贝尔生理学或医学奖揭晓,3位美国科学家Jeffrey C. Hall, Michael Rosbash和Michael W. Young获奖。获奖理由是“发现了调控昼夜节律的分子机制”。Jeffrey C. …

独家 | 揭秘出行巨头Uber的机器学习平台与团队

来源:本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。概要:一个好的机器学习平台,不光是个铁锹,它必须是个现代化大型自动化挖掘机。只有让大数据以更廉价的方式得…

业界 | 德勤预测:机器学习走向移动端成大势所趋,或将再掀行业新浪潮

来源:AI科技评论概要:早在20世纪70、80年代,大部分企业计算都由办公大楼地下室里的大型主机和微型计算机完成,工作人员则在操作由没有机载处理能力的阴极射线管监视器(被称为“绿屏”)和键盘组成的“简易终…

2017年诺奖:百年现代物理学,今天做了个了断!

编者按:2017年诺贝尔物理学奖被授予美国三位科学家Rainer Weiss(雷纳韦斯)、Kip Thorne(基普索恩)、Barry Barish(巴里巴里什),以表彰他们在LIGO检测器和引力波观测的决定性贡献。中…

用深度学习模型,解构并重构人类思维

来源:人机与认知实验室概要:人类的知识,往往由事实 fact 和规则 rule 组成,而且人类习惯于用简练的词汇,来表达事实和规则。所以,维特根斯坦认为,人类思维受制于语言结构,语言的界限…

Ios 12 linux,苹果发布iOS 12.4.1,以修补越狱漏洞

Apple今天发布了针对iPhone和iPad设备的最新iOS 12.4移动操作系统,Apple TV设备的tvOS 12.4以及Apple Watch设备的watchOS 5.3的第一个小Bug和安全更新。iOS 12.4.1是iOS 12.4发布多月后的一项重大更新,引入了新的iPhone迁移功能,允许用户将数…

谷歌AI智商达苹果Siri两倍 但不及6岁儿童

来源:IT之家概要:3名中国研究员近期发表的论文指出,谷歌人工智能技术相对于苹果Siri“智商”明显更高。3名中国研究员近期发表的论文指出,谷歌人工智能技术相对于苹果Siri“智商”明显更高。这篇论文比较了多个人工智能系统。论文…

Deepmind 预测地图论文背后:神经科学或将助力AI迎来新突破

来源:AI科技评论概要:这篇论文中,Deepmind通过对主管人类长期记忆行为的“海马体”(hippocampus)神经元活动的研究,进一步提出了可以转化为神经网络架构的“预测图”理论。对人类神经网络的理解越来越在左右…

c语言更改编译时字体,c习题编译时出现空的字符常量,怎么修改?

题目要求&#xff1a;统计各个数字&#xff0c;空白符以及所有其他字符出现的次数。[CODE]#include main(){int c, i, nwhite, nother;int ndigit[10];nwhite nother 0;for (i 0; i < 10; i)ndigit[i] 0;while ((c getchar()) ! EOF)if (c > ’0′ && c <…

你所未知的人工智能应用领域

来源&#xff1a;199IT互联网数据中心 概要&#xff1a;一组专家为我们详细描述了随着我们所使用的机器变得越来越智能&#xff0c;我们周围的世界正在如何发生变化的图景。 对有些人来说&#xff0c;人工智能和机器人技术的普及对我们的隐私、工作甚至人身安全构成了威胁&…

原来你是这样子的OpenAI!来看看它背后那些有趣的人和事

来源&#xff1a;AI科技大本营 概要&#xff1a;它的目标非常明确&#xff0c;就是要确保人类安全&#xff0c;确保人类的权益不受未来机器人的影响&#xff0c;确保人类可以长久地与智能机器人共存。 提到OpenAI&#xff0c;业内可谓无人不知&#xff0c;无人不晓。 这可是人气…

Gartner十大IT预测:七大数字巨头,有五家将心甘情愿“自我颠覆”

来源&#xff1a;凤凰科技 概要&#xff1a;Gartner的预测&#xff0c;以及支持这些预测的假设&#xff0c;表明企业首席信息官必须首先是业务战略师&#xff0c;然后才是技术专家。 Gartner的预测&#xff0c;以及支持这些预测的假设&#xff0c;表明企业首席信息官必须首先是…