Jeff Dean晒Google Brain团队2017成绩单!

来源:全球人工智能


谷歌大脑负责人 Jeff Dean 今天发文晒AutoML、语言理解、机器学习算法、机器学习系统等核心研究工作成绩单,全面总结谷歌大脑在2017年取得的成绩。



一、自动化机器学习(AutoML)


我们开发了使用强化学习和进化算法设计神经网络结构的新方法,并推广到ImageNet图像分类和检测领域的最新成果,实现了如何自动学习新的优化算法和有效的激活函数。

利用神经结构搜索发现卷积结构

利用AutoML发现的网络进行对象检测


二、话语理解与生成技术,词错率降低16%!


开发新的技术来提高计算机理解和生成人类语言的能力,包括我们与Google speech团队合作,对谷歌的端到端语音识别方法进行了一系列改进,将谷歌的语音识别系统的相对词错率降低了16%。


用于语音识别的Listen-Attend-Spell端到端模型的组件

还与谷歌的Machine Perception团队合作开发了一种新的文本到语音生成方法(Tacotron 2),大大提高了生成语音的质量。

Tacotron 2的模型架构



三、推出新的3种优秀算法


1.Hinton提出的capsules:稀疏门控专家混合层(实现了超大规模但仍有计算效率的模型),hypernetworks(使用一个模型的权重来生成另一个模型的权重);2.新的multi-modal模型:在同一个模型上执行音频、视觉和文本输入的多个学习任务;3.基于attention的机制:(卷积和循环模型的代替),symbolic和non-symbolic学习的优化方法,通过离散变量反向传播的技术,以及一些新的强化学习算法的改进。


四、开放8大数据集(福利呀)


MNIST,CIFAR-10,ImageNet,SVHN和WMT等开放数据集,极大地推动了机器学习领域的发展。谷歌大脑和Google Research在过去一年一直积极地为开放式机器学习研究开源有趣的新数据集,以及提供更多的大型标记数据集,包括:


  • YouTube-8M:使用4,716个不同类别注释的700万YouTube视频


  • YouTube-Bouding Boxes:来自210,000个YouTube视频的500万个bounding boxes


  • Speech Commands数据集:包含数千个说话者说的短指令词


  • AudioSet:200万个10秒的YouTube视频剪辑,标记有527个不同的声音事件


  • Atomic Visual Actions(AVA):57,000个视频剪辑中的21万个动作标签


  • Open Images:使用6000个类别标记的900万个创作共用许可的图像


  • Open Images with Boundign Boxes:600个类别的120万个bounding boxes


YouTube-Bouding Boxes数据集样本:以每秒1帧采样的视频片段,围绕相关项目成功标识边界框


五、TensorFlow被180多个国家被下载了超过1000万次!


TensorFlow用户的分布地图


去年2月,我们发布了TensorFlow 1.0,11月,我们发布了v1.4版本,增加了以下重要功能:用于交互式命令式编程的Eager execution,用于TensorFlow程序的优化编译器XLA,以及用于移动设备和嵌入式设备的轻量级解决方案TensorFlow Lite。预编译的TensorFlow二进制文件已经在180多个国家被下载了超过1000万次,GitHub上的源代码现在已经有超过1200个贡献者。


六、TPU比对手快15-30倍!


TPU提供高达180 teraflops的机器学习加速


大约五年前,我们认识到深度学习会大大改变我们所需要的硬件种类。深度学习的计算量非常大,但它们有两个特殊的性质:它们主要由密集的线性代数运算(矩阵倍数,向量运算等)组成,它们对精度容忍度高。我们意识到我们可以利用这两个属性来构建能够非常有效地运行神经网络计算的专用硬件。我们为Google的平台团队提供了设计输入,他们设计并生产了我们的第一代Tensor Processing Unit(TPU):一种旨在加速推理深度学习模型的单芯片ASIC(推理是使用已经过训练的神经网络,与训练不同)。


这款第一代TPU已经在我们的数据中心部署了三年,并且已经被用于每个Google搜索查询,Google翻译,Google相册中的图片,AlphaGo与柯洁的围棋比赛中,以及其他许多研究和产品用途。去年6月份,我们在ISCA 2017上发表了一篇论文,显示这款第一代TPU比现代GPU或CPU同类产品快15-30倍,性能/功耗约为30-80倍优化。


未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。由互联网进化论作者,计算机博士刘锋与中国科学院虚拟经济与数据科学研究中心石勇、刘颖教授创建。


未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/497576.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

mysql恢复主服务器_MySQL 5.6主从复制第二部分[恢复某一台从服务器]

MySQL 5.6主从复制第二部分[恢复某一台从服务器],本来第二部分是想测试主服务器挂掉,提升从服务器的情况,可是出了点点意外,改本来第二部分是想测试主服务器挂掉,提升从服务器的情况,可是出了点点意外&…

亮相2018CES:解读阿里云IoT筹谋全球物联网市场的一盘大棋!

来源:阿里巴巴概要:近年来国内物联网市场高歌猛进,2017年也被称为物联网真正意义上的元年。成立还不到一年的阿里云IoT,以平台、市场、标准三位一体的策略,迅速在物联网领域崭露头角、稳固地位。一年一度的CES在拉斯维…

CompletableFuture 异步编程

本文从实例出发,介绍 CompletableFuture 基本用法。不过讲的再多,不如亲自上手练习一下。所以建议各位小伙伴看完,上机练习一把,快速掌握 CompletableFuture。 全文摘要: Future VS CompletableFuture CompletableFu…

麦肯锡:物联网九大应用潜力无限 2025年经济价值高达11.1万亿美元

来源:WPR概要:物联网有可能从根本上改变人类与周围世界的互动方式。如果一切顺利的话,那么到2025年,物联网——将实体和数字世界连接起来的这项技术,其经济价值可达每年11.1万亿美元。物联网有可能从根本上…

致开发者:2018年AI技术趋势展望

来源|公众号“AI 前线”,(ID:ai-front)译者|核子可乐编辑|Emily概要:在 2018 年,开发者如何将一系列 AI 技术成果应用于当前的工作当中呢?近日,一…

CES2018:英特尔披露量子计算和神经拟态计算研究最新进展

来源:科学网概要:今年上半年,英特尔计划与顶级院校和研究机构共享Loihi测试芯片,同时将其应用于解决更加复杂的数据集和问题。1月8日,在拉斯维加斯举办的2018年国际消费电子产品展(CES)上&#…

EDA风格与Reactor模式

来源:https://www.cnblogs.com/ivaneye/p/10129896.html 本文将探讨如下几个问题: Event-Driven架构风格的约束EDA风格对架构属性的影响Reactor架构模式Reactor所解决的问题redis中的EventDriven 从观察者模式到EDA风格 GOF的23种设计模式中&#xff…

神经尘埃、脑波打字…… 2018年的脑科学要研究什么?

来源:科技日报概要:21世纪是脑科学时代。为了进一步了解大脑,监测大脑活动的研究进行得如火如荼,已在学术界和商业界掀起一股淘金热。人脑可谓人体最复杂、最神秘的器官,无数科学家殚精竭虑,也不过才揭开其…

webapp入门到实战_web前端入门到实战:前端高手在CSS 开发效率的必备片段

这篇文章会记录我们平时常用到的 CSS 片段,使用这些 CSS 可以帮助我们解决许多实际项目问题中遇到的,墙裂建议点赞收藏再看,方便日后查找清除浮动浮动给我们的代码带来的麻烦,想必不需要多说,我们会用很多方式来避免这…

FutureTask 示例

1、简单示例 2、泡茶 1、简单示例 // 创建 FutureTask FutureTask<Integer> futureTask new FutureTask<>(()-> 12); // 创建并启动线程 Thread t1 new Thread(futureTask); t1.start();// 获取计算结果(阻塞主线程&#xff0c;等待结果...) Integer result…

机器学习必知的8大神经网络架构和原理

来源&#xff1a;全球人工智能概要&#xff1a;有些任务直接编码较为复杂&#xff0c;我们不能处理所有的细微之处和简单编码&#xff0c;因此&#xff0c;机器学习很有必要。为什么需要机器学习&#xff1f;有些任务直接编码较为复杂&#xff0c;我们不能处理所有的细微之处和…

《科学》盘点2018可能被聚焦的研究领域

来源&#xff1a;科学网 概要&#xff1a;随着这些大趋势展现出来&#xff0c;《科学》杂志预测了今年可能被聚焦的关于研究和政策的特定领域。动荡的政治变革将在新的一年塑造科学的进程。美国总统唐纳德特朗普领导的政府预计将继续致力于废除基于科学的环境法规。英国离开欧盟…

谷歌大脑2017总结下篇:从医疗、机器人等6个领域开始的改变世界之旅

作者&#xff1a;camel概要&#xff1a;Jeff Dean发表了这篇博文的下篇&#xff0c;内容包括谷歌大脑在 AI 应用方面&#xff08;诸如医疗、机器人、创新、公平和包容等&#xff09;的工作。昨天谷歌大脑&#xff08;Google Brain&#xff09;负责人 Jeff Dean 在 Google Resea…

Gartner:人工智能将改变个人设备领域的游戏规则

来源&#xff1a;人工智能和大数据概要&#xff1a;目前&#xff0c;AI正在产生多种颠覆性力量&#xff0c;重塑我们与个人技术互动的方式。近日&#xff0c;Gartner公司预测&#xff0c;随着情感人工智能&#xff08;AI&#xff09;日臻成熟&#xff0c;个人设备到2022年将比您…

张小龙演讲干货:微信的未来在哪?这里有7个答案

来源&#xff1a;钱塘大数据概要&#xff1a;1月15日&#xff0c;以“to be正当时”为主题的2018微信公开课Pro版在广州举行&#xff0c;腾讯集团高级执行副总裁、微信事业群总裁张小龙出席并发表演讲。1月15日&#xff0c;以“to be正当时”为主题的2018微信公开课Pro版在广州…

敏捷软件开发—原则、模式与实践总结

思维导图&#xff1a;https://www.processon.com/view/link/60d46dfb5653bb049a469068

AWS VS 阿里云 VS 腾讯云 国内三大云服务商云主机评测报告

来源&#xff1a;CloudBest概要&#xff1a;近几年&#xff0c;随着国内公有云市场规模的不断增长&#xff0c;以阿里云、腾讯云为代表的本土云服务商&#xff0c;以及以AWS、微软Azure为代表的海外云服务商&#xff0c;成为公有云市场最大的赢家&#xff0c;市场寡头化趋势已经…

单一职责原则(SRP)

单一职责原则&#xff08;The Single Responsibility Principle&#xff0c;SRP&#xff09; 就一个类而言&#xff0c;应该仅有一个引起它变化的原因。 为何要把两个职责分离到单独的类中&#xff1f; 因为每一个职责都是变化的一个轴线&#xff08;an axis of change&…

多国相继出台政策法规:为「自动驾驶」的「创新发展」保驾护航

来源&#xff1a;腾讯研究院曹建峰 腾讯研究院法律研究中心高级研究员祝林华 腾讯研究院法律研究中心助理研究员人工智能等新技术&#xff0c;正从科幻概念逐步落地到各行各业&#xff0c;将从重塑驾驶、医疗、制造等领域开始&#xff0c;全面重构人类社会和生活。自动驾驶汽…

华为《5G业务商业价值评估》白皮书!

来源&#xff1a;5G蹇飒&#xff1a;华为公司商业与网络咨询部咨询专家。概要&#xff1a;在过去不长的时间里&#xff0c;5G技术不断取得重大进展&#xff0c;5G发展之路更为清晰。未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能&#xff0c;互联网和脑科学…