从复现人类智能到挑战AI大工程,智能计算正经历什么考验?

7f28bf82acccc04525525577e9923a75.png

来源:AI科技评论

作者:杏花

编辑:青暮

世界顶级机器学习专家Michael I.Jordan曾提出一个观点,他认为人工智能正逐步由原理性研究,走向人工智能大工程。

Michael I.Jordan认为,随着机器学习的蓬勃发展,人工智能的目标已发生了本质性变化,不再只是研究如何在单个计算机上复现人类智能,更重要的是如何构建现实世界中的系统,从而解决现实世界中的超大规模问题,比如蛋白质结构预测、药物研发、高能物理实验分析等基础科研问题。

复现人类智能和基础科研的问题复杂度截然不同,前者可大可小,后者一般都是大规模问题,同时还经常遇到组合爆炸困难。例如,在蛋白质结构预测中,随着蛋白质的组成也就是氨基酸数量的增加,其复杂度是呈指数式增长的,这就对算力的高效、高端供应提出了很高的要求。

此外,AI模型的训练和推理所需要的算力规模也大不相同。整型算力(比如INT8)可以支撑AI推理,但要支撑AI训练,至少需要半精度算力(FP16)。

而随着AI深入各行各业,接触的场景也将愈加丰富和繁杂,不能一概而论。

总体而言,人工智能算法的基础设施——智能计算面临着越来越多样化的算力需求,对每一个具体问题都需要配置不同的算力供给方案,否则容易造成资源浪费。

其实这也是如今数字化时代面临的重大难题,面对硬件、算力、算法、技术的组合爆炸现象,为了获得最大的投入产出比,四者的深度联动融合成为了必要条件。这就对算力供应的无界性提出了很高的要求。

在这一需求的推动下,曙光智算推出了「智算+」API新模式,以此来实现无界的算力供应。

1

「智算+」API:如鱼得水

面对多样化算力供应的需求,曙光智算早就做好充足准备,比如,曙光智算已经为许多大型企业提供AI应用的支撑。

灵活而多样的算力配置是复杂的数学问题,但曙光智算却化繁为简,只对外提供即插即用式的接口,这正是「智算+」API新模式。

「智算+」API新模式,依托于曙光智算API接口。基于该API接口,AI研究人员无需任何算力配置的专业知识,便可轻松接入资源庞大的曙光计算服务平台,实现AI模型训练、推理等操作,从而加快、简易化整个研发流程。

无界的两大含义——向内多样化、向外简易化,被「智算+」API诠释透彻。

405bd9ab93f9c8b2b5ee4ab7a9010004.png

图注:曙光智算服务架构

通过开放API,曙光智算可为SAAS服务提供商、应用软件提供商、第三方算力服务商提供多样化的算力服务,分别对应3种集成模式:

首先是平台集成。该模式主要面向第三方算力服务商,具体来说是,基于曙光智算AC平台服务和「智算+」API,将第三方算力服务商平台入口集成到曙光统一服务平台(AC平台),底层使用曙光自运营算力。

AC平台将多个智能计算中心通过数据互联互通,从而进行跨中心的管理和调度,并以API或非API的形式对外服务。

其中,智能计算中心采用专有的调度引擎,来协同计算资源。所谓调度也就是对于特定的问题,选择不同的建模(比如SVM、CNN等)和计算方式(比如BLAS、AVX等并行模式)。

其次是应用集成。该模式主要面向应用软件提供商,为包含多个软件的应用商城提供强大而灵活的算力。具体来说是,将第三方应用部署到曙光智算现有算力资源中,并依托平台监控管理模块对应用程序进行管理、调度、性能监控、提供优化指导等。

目前应用商城已经集成海量商业应用Portal和开源应用软件,比如人工智能类软件包括了TensorFlow、PyTorch等深度学习框架,以及Hadoop、Spark等数据分析框架。

最后是服务定制。该模式主要面向第三方算力服务商和SAAS服务提供商,为前者提供多种类型的明确算力需求,为后者提供单个大型云端软件的按需即用功能对应的算力。

简而言之,就像现代社会的电网、互联网一样,「智算+」API也将作为基础设施一般的存在,既重要又无处不在,但给人的感觉仿佛不存在,这正是最好服务的内涵所在。依托这类高端计算的支撑,人工智能领域的学术研究和产业落地也将“如鱼得水”般加速前行。

自上线以来,曙光计算服务已经广泛应用于多个领域并探索出一套适配的行业解决方案。

例如在人工智能领域,百度飞桨与曙光智算合作,已实现「智算+」API与Paddle2.x的适配,国产X86及其加速卡版作为常用分支合入官方GitHub仓库,支持安装包直接安装,实现与GPU的API接口统一。此外,通过将「智算+」API对接AI Studio,百度飞桨还可为开发者提供人工智能学习、实训、比赛的算力资源。

曙光智算还助力复旦大学类脑智能科学与技术研究院,构建并利用多模态多尺度脑数据库,发展了模式识别、深度学习等类脑智能方法。其中,「智算+」API为研究院提供了数百独占节点+上千个动态节点,协助完成了从CUDA生态到国产异构加速生态的代码迁移、应用优化等工作。

2

计算新时代:开放无界

9fc547de081dadbddd2ba9710ae31849.png

以AC平台和「智算+」API为基础,曙光智算正在以“横向耦合、纵向解耦”的方式,来推动硬件、算力、算法、技术的深度联动融合。

在AI领域中,深度学习盛行的当下,人工智能近乎有了一致的数学语言,同时也就有了更加灵活的协同效应,而耦合与解耦的协同也在深度学习领域发挥重要作用。比如在一般的全连接神经网络自身效率不高时,就要通过内部“横向耦合”来深入地探索合适的机制,最终具有更强适应性的Transformer架构脱颖而出。之后,与数据、任务等要素“纵向解耦”,Transformer成为如今适用多种任务的大模型的标配,并且不仅仅限于类人智能,蛋白质结构预测等科学计算任务亦被证实利用Transformer是可行的,基于Transformer的大模型也在通用AI的探索路径上被寄予厚望。

可以说,AI的技术演变如今也呈现向内多样化、向外简易化的模式。

同样,算力的耦合与解耦的协同也在曙光智算的设想之中。基于这种协同作用,并凭借20多年的从业经验、统一和商业化的运营模式、丰富的多类型资源、超高速的计算/存储网络、安全的设计标准,曙光智算将打造算力的“无界”生态。

首先,AC平台将不同的智能计算中心进行内部“横向耦合”,如同调整神经网络中错综复杂的连接和激活机制一般,通过深度的融合来得到“强适应的Transformer”,也就是规划出多样的算力配置方案,体现资源无界优势;其次,「智算+API」则像经过千锤百炼的Transformer模型,以“好用、通用黑箱”的、“纵向解耦”的方式,最大限度推动硬件资源、算力网络、算法应用之间的协调适配,以实现计算价值最大化,体现技术无界优势。

最后,在资源无界、技术无界的推动下,曙光智算得以打造全产业链共享的算力生态,以“零门槛”方式最大限度接入产业链上下游相关方,破除信息孤岛,推动打造超连接、共进化的无界生态系统,实现无界生态的持续创新、升级。

「智算+」API新模式,诠释了曙光智算的算力“无界”的终极奥义,从资源、技术、生态三个层面构建“开放无界”的算力平台,引领计算产业迈入互利共赢的新时代。

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)大脑研究计划,构建互联网(城市)大脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

fa62b81a27f184e1deb0514692a2b1c8.png

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/482960.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

操作系统学习笔记-02-操作系统的特征

操作系统学习笔记-2019 王道考研 操作系统-2-操作系统的特征 文章目录02-操作系统四个的特征2.1-知识概览2.2并发2.3共享2.3并发和共享的关系2.4虚拟2.5小结:虚拟技术2.6-异步2.7知识回顾02-操作系统四个的特征 2.1-知识概览 2.2并发 并发:指两个或多个事件在同-一…

从宇宙、互联网和脑的关系看元宇宙的终极形态

作者 刘锋 曾经在2012年写过一篇论文《THE EVOLUTION ROAD MAP FROM THE ORIGIN OF LIFE TO THE INTELLIGENT UNIVERSE》,探讨了关于宇宙、互联网和脑之间的内在联系,阐述面本世纪以来,互联网为核心的科技生态出现越来越多的类脑特征&#xf…

操作系统学习笔记-03-操作系统的发展和分类

操作系统学习笔记-2019 王道考研 操作系统-01-操作系统的概念(定义),功能和目标 文章目录3-操作系统的发展和分类3.1知识总览3.2 手工操作,纸带机,串行式3.3批处理阶段-单道批处理系统-多道批处理系统3.4分时操作系统3…

马斯克炮轰元宇宙与Web3.0:“我不觉得有人会成天把屏幕绑在脑袋上”

来源:雷峰网元宇宙和 Web3.0据称将是彻底改变数字世界的两种趋势。但现实世界中的首富、硅谷钢铁侠埃隆马斯克对两者似乎都并不怎么看好。在最近的一次采访中,马斯克表示,他在市场上并没有看到任何值得注意的元宇宙VR应用,并表示他…

操作系统学习笔记-04-操作系统的运行机制和体系结构

操作系统学习笔记-2019 王道考研 操作系统-04-操作系统的运行机制和体系结构 文章目录4-操作系统的运行机制和体系结构4.1知识总览4.2运行机制4.2.1预备知识:什么是指令?4.2.2两种指令,两种处理器状态,两种程序4.2.3运行机制小结4…

因果推断——现代统计的思想飞跃

来源:数学文化”公众号编辑:李达审核:范杰、李祺垣1 引言探求事物的原因,是人类永恒的精神活动之一。从古希腊的哲学到中国先秦的诗歌,都充满了对原因的追问和对因果关系的思考。比如,亚里士多德就在《物理…

操作系统学习笔记-05-中断和异常

操作系统学习笔记-2019 王道考研 操作系统-05-中断和异常 文章目录5-中断和异常5.1知识概览5.2 中断机制的诞生5.3中断概念和作用5.4中断的分类5.5 外中断的处理过程5.6思维导图5-中断和异常 5.1知识概览 5.2 中断机制的诞生 之前说的多道批处理系统,cpu给每个进程…

量化集体行为特刊:信息论为量化集体性提供形式化框架

来源:Theory in Biosciences译者:郭瑞东 审校:张澳 编辑:邓一雪 导语集体行为作为复杂系统的典型特征,存在大量有关同步、自组织的定量研究。然而,多数研究仅止步于以单一的视角或方法孤立量化集体性的某一…

操作系统学习笔记-06-系统调用

操作系统学习笔记-2019 王道考研 操作系统-06-系统调用 文章目录6-系统调用6.1 知识概览6.2什么是系统调用?有什么作用?6.3系统调用与库函数的区别6.4系统调用背后的过程6.5思维导图6-系统调用 6.1 知识概览 6.2什么是系统调用?有什么作用&a…

《Engineering》评选2021年全球十大工程成就

来源:中国工程院院刊“2021全球十大工程成就”发布工程是现实的、直接的生产力,是人类改变世界的重要活动。古往今来,人类创造了众多令人惊叹的工程成就,持续带动着经济发展和社会的深刻变革,推动人类文明迈上更高的台…

Gartner 2022年新兴技术和趋势影响力雷达图中五项具有影响力的技术

来源:Gartner公司编辑:蒲蒲如果一幢建筑能够告诉您暖通空调系统中的过滤器导致系统运行效率低下并需要更换,是不是会对您很有帮助?如果该系统还可以根据使用情况来调整暖风或通风呢?您目前的系统是否能够主动追踪建筑内…

计算机网络学习笔记-1.1.3-速率相关的性能指标

计算机网络-2019 王道考研 计算机网络-1.1.3-速率相关的性能指标 文章目录3-速率相关的性能指标性能指标之速率,带宽,吞吐量思维导图3.1速率--》传输单位你到底是咋转换的?3.2带宽--》网络水龙头你到底有多快?3.3吞吐量--》奸商&a…

吴恩达:回顾2021,这些大事件影响了AI这一年

来源:AI前线作者:Andrew Ng译者:核子可乐,刘燕12 月 23 日,机器学习大牛吴恩达(Andrew Ng)在其主编的人工智能周讯《The Batch》上发表了最新文章。文章中,吴恩达回顾了 2021 年全球…

计算机网络学习笔记-1.1.4-时延、 时延带宽积、RTT和利用率

计算机网络-2019 王道考研 计算机网络-1.1.4-时延、 时延带宽积、RTT和利用率 文章目录4-时延、 时延带宽积、RTT和利用率4.1时延--》我得小饼干你怎么还没来?4.2时延带宽积--》小饼干?小浣熊?好多好多2234.3往返时延RTT--》草(一…

2022年十大AI预测

来源:福布斯编辑:蒲蒲1 语言AI将成为核心,与其他类别的AI相比,更多的初创公司将在NLP(自然语言处理)领域获得资金。语言是人类最重要的发明。与其他属性相比,它是人类智力的决定性标志。语言…

AI 真的能够理解人类语言吗?

来源:CSDN(ID:CSDNnews)作者:Melanie Mitchell译者:弯月2011年,IBM 的人工智能系统沃森参加综艺节目《危险边缘》,并获得了冠军,当时他们宣称:“沃森能够理解…

计算机网络学习笔记-1.1.5-分层结构、协议、接口、服务

计算机网络-2019 王道考研 计算机网络-1.1.5-分层结构、协议、接口、服务 文章目录5-分层结构、协议、接口、服务5.1分层结构5.1.1为什么要分层?5.2怎么分层呢?--》论千层饼的做法?5.2.1正式认识下,我叫分层结构,协议接…

操作系统学习笔记-2.1.1.进程的定义、组成、组织方式、特征

操作系统学习笔记-2019 王道考研 操作系统-2.1.1.进程的定义、组成、组织方式、特征 文章目录2.1.1.进程的定义、组成、组织方式、特征1.1知识概览1.2进程的定义1.3进程的组成1.4进程的组织1.5进程的特征1.6小结2.1.1.进程的定义、组成、组织方式、特征 1.1知识概览 1.2进程的…

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

研究人员开发的框架可以根据物体空间关系的文本描述生成场景图像。来源:AI科技评论作者:莓酊编辑:青暮人类在描述场景时,经常描述物体之间的空间关系。生物视觉识别涉及自上而下通路和自下而上通路的交互,而深度神经网…

​人工智能和机器学习中数据集的 3 个大问题

来源:ScienceAI编辑:绿萝数据集为 AI 模型提供燃料,例如汽油(或电力)为汽车提供燃料。无论他们的任务是生成文本、识别对象还是预测公司的股价,人工智能系统都通过筛选无数示例来识别数据中的模式来「学习」…