vscode 英伟达tk1_英伟达的未来,不只是GPU

成立于1993年的英伟达,最为人熟知的就是他们的GPU。尤其是进入最近几年,因为AI的火热,英伟达GPU的关注度暴增,行业对他们在这个领域的认可程度也达到了前所未有的高度。但其实GPU只是英伟达的根本。历经过去几年的收购和产品线拓展外,英伟达已经开拓了多条产品线,DPU就是其中的一条。

DPU:为数据移动而生

在数据中心领域,CPU和GPU是当之无愧的“处理器巨头”,他们凭借各自的优势在数据中心中建立了无可撼动的地位。但在Nvidia CEO黄仁勋看来,DPU已经成为以数据为中心的加速计算模型的第三位成员。其中CPU用于通用计算,GPU用于加速计算,而DPU在数据中心周围移动数据,进行数据处理。

这里所说的DPU,就是DataProcessing Unit的缩写,也就是所谓的数据处理单元,这是英伟达耗资69亿美元收购的以色列芯片厂商Mellanox所带来的拳头产品之一。

据英伟达方面介绍,DPU是一款具备了高性能,软件可编程和多核CPU等特性的新型可编程处理器。在这个SoC中,拥有高性能网络接口,能够以有线传输的速率解析、处理数据,并将其快速传输到GPU和CPU。更重要的是,

英伟达方面表示,DPU丰富的、灵活和可编程的加速引擎可减轻和改善AI和机器学习应用的性能。所有的这些DPU功能对于实现隔离的裸机云原生计算至关重要,它也将定义下一代云规模计算。他们进一步指出,DPU可以用作独立的嵌入式处理器,但通常会集成到SmartNIC中,为未来的服务器提供支持。

d854140ff157b892c850cbad790fcf3a.png

从英伟达方面的介绍我们得知,DPU可以执行原本需要CPU处理的网络、存储和安全等任务。这就意味着如果在数据中心中采用了DPU,那么CPU的不少运算能力可以被释放出来,去执行广泛的企业应用。

在近日举办的GTC大会上,英伟达带来了其全新的DPU 产品BlueField-2、BlueField-2X,以及全新的DOCA SDK。

首先看BlueField-2 DPU,如下图所示,在DPU中,拥有8个64bit的Arm Cortex A72内核,同时还拥有2VLIM加速引擎和Mellanox的ConnertX-6 Dx NIC,同时还集成了行业领先的50Gb / s PAM4 SerDes和PCIe Gen 4.0接口,这就让其能提供速度为25Gb / s、50Gb / s或100Gb/ s的两个端口,或者一个速度高达200Gb/s的以太网和InfiniBand连接。

011bf807bd9a54c25e4662d30d1a9b0f.png

得益于这些配置,BlueField-2 DPU能够加速数据中心中包括隔离、信任根、密钥管理、RDMA/RoCE、GPUDirect、弹性块存储和数据压缩等在内的安全、网络和存储任务。

除了BlueField-2 DPU之外,英伟达还带了BlueField-2X DPU,这款产品除了拥有BlueField-2 DPU的所有特性以外,还集成了一个NVIDIA Ampere GPU,这就让其可以运用AI来执行数据中心的安全、网络和存储等任务。

9490a611b90a120b04d294f8c03dbc0b.png

英伟达方面表示,因为Ampere GPU采用了NVIDIA的第三代Tensor Core,所以它能够使用AI进行包括识别异常流量以预防机密数据被盗,线速加密流量分析,主机自检识别恶意活动,动态安全流程和自动响应在内的实时安全分析。

在介绍了这两款DPU之后,英伟达还带来了DPU的全新路线图。如下图所示,英伟达未来两代的DPU将在2022和2023年面世,它们所带来的性能提升是非常明显的。

05e07dfcba8f170f1e74ed94ce79978b.png

为了方便DPU的开发,英伟达同时还带来了一款名为DOCA(Data-Center-Infrastructure-on-a-ChipArchitecture)的SDK。据了解,DOCA为开发人员提供了一个全面的开放平台,协助他们在BlueField系列DPU上打造软件定义的,硬件加速的网络、存储、安全和管理等应用。而DOCA也已经完全集成到NVIDIA NGC中,该软件目录为第三方应用程序开发商提供了便捷和容器化的软件开发环境,那就意味着他们可以利用DPU在数据中心中的加速服务,并开发,认证和分发应用程序给其客户。

JETSON:迎接AIoT革命

在英伟达面向未来的产品布局中,AIoT也是一个他们不会错过的重点方向。正如该公司边缘计算VP和GM Deepu Talla所说,这是一个涉及万亿连接的市场,他们没理由错过。

ed674c43d0c30cbc841a3102c3556fe4.png

如上图所示,这是一个始于2014年的产品线,在当年三月,他们发布了Jeston系列的第一款产品Jeston TK1。这是一款基于全球首款针对嵌入式系统的移动超级计算机,其面向的应用包括计算机视觉、图像处理以及实时数据处理等领域。

按照英伟达的介绍,Jetson是他们面向新一代自主机器推出的嵌入式系统,是一系列适用于一切自主机器(Autonomous Machines)的AI平台。其系统所提供的性能和能效可提高自主机器软件的运行速度,而且功耗更低。英伟达方面的资料显示,Jetson系列的每个系统都是一个完备的模块化系统 (SOM),具备 CPU、GPU、PMIC、DRAM 和闪存,并且具备可扩展性。对于开发者和用户来说,只需选择适合应用场景功能需求的SOM,即能够以此为基础构建系统。

自2014年以来,英伟达已经面向不同应用场景推出了TK1、TX1、TX2、AGX Xavier、Nano和XavierNX六款产品。而现在,他们则带来了售价仅为59美元的JetsonNano 2GB。在英伟达看来,这是一款非常适用于学生、教育和机器人爱好者的AI和机器人入门套件。

6d9523d35bad43edf74010da711905f5.png

英伟达官方也表示,Jetson Nan 2GB开放套件设计的初衷是希望将AI的教与学融为一体,兴趣认识可以借助其开发机器人技术和智能物联网等领域的项目。为了支持这项工作,英伟达还将提供免费的在线培训和AI认证计划,这将支持成千上万的开发人员在充满活力的Jetson社区中提供更多的开源项目、开发方法和视频。

英伟达方面指进一步出,NVIDIA JetPack™ SDK为新款的Jetson Nan 2GB提供支持,这就让开发者可以基于此针对需求做多样化的开发。

开发者平台:英伟达的武器

为了让开发者将其硬件带到各种领域,英伟达在软件上做了很多的投入,CUDA就是其最成功的代表。正如很多行内人士所示,英伟达之所以能够在AI时代大展所长,他们在CUDA上持之以恒的投入功不可没,这也是他们为DPU投入DOCA开发的原因。

而为了更便利开发者,英伟达带来了更多的开发平台。如为了更好地将AI带到边缘应用,英伟达在2019年推出了EGX AI 平台。该平台可以实时感知、理解和处理数据,而无需先将数据发送到云端或数据中心。

559564c409d5feff228546cca85cac8c.png

作为一款高性能和可扩展的平台,EGX 能从小型的 NVIDIA Jetson Nano扩展到所有安装了NVIDIA GPU的服务器群,提供从0.5TOPS到 10,000 TOPS的支持,可以为数百名用户提供实时语音识别和其他复杂的 AI 体验。而据他们介绍,包括戴尔、浪潮、联想和Supermicro在内的服务器供应商也提供了对NVIDIA EGX AI平台的支持。这就让制造、健康、零售、物流、农业、电信、公共安全和广播媒体等大型行业从EGX AI平台受益,也能加速他们的AI部署。

英伟达方面表示,公司的EGX平台正在扩展,以结合NVIDIA Ampere GPU和单个PCIe卡上的BlueField-2DPU功能,为企业提供了通用的平台去构建安全的加速数据中心。

在GTC2020上,英伟达还带来了了全新的NVIDIA Maxine——一款云原生的流视频AI平台。

据介绍,基于这个平台,服务提供商预计可以为每天举行的超过3000万次网络会议带来新的AI功能,当中包括凝视校正,超分辨率和降噪等。由于数据是在云中而不是在本地设备上处理的,因此终端用户无需任何专用的硬件,就可以享受新的功能。

19c39d548f7167512defd5c04b902055.png

“Maxine平台将大大减少视频通话所需的带宽。和传统流视频传输整个屏幕的像素不一样,AI软件会分析通话中每个人的关键面部点,然后智能地调整另一侧视频中的脸部。这样就可以以更小流量的方式在网络上传输流视频”,英伟达方面强调。

Maxine平台同时集成了多个NVIDIAAI SDK和API技术。除了NVIDIAJarine,Maxine平台还利用了NVIDIA DeepStream高通量音频和视频流SDK和NVIDIA TensorRTTM SDK,以实现高性能的深度学习推理。Maxine中使用的NVIDIA SDK中提供的AI音频、视频和自然语言功能

是在NVIDIA DGX系统上经过数十万次训练而开发的,这进一步体现了其领先性。

除此之外,英伟达还带来了Omniverse平台。

据介绍,Omniverse是世界上第一个基于NVIDIA RTX的3D模拟和协作平台,汇集了英伟达在图形、仿真和AI方面的突破,融合了物理和虚拟世界,能够实时模拟真实感并具有真实感细节。

使用该平台,远程团队可以同时在项目上进行协作,例如架构师反复进行3D架构设计,动画师修改3D场景,以及工程师合作进行自动驾驶汽车开发,就像他们在网上共同编辑文档一样容易。

据透露,Omniverse得到了包括Adobe,Autodesk,Bentley Systems,Robert McNeel&Associates和SideFX在内的许多主要软件领导者的支持。NVIDIA还计划携手其他领先的软件提供者,以便所有艺术家和设计师都能在Omniverse上选择自己所需的应用程序。

得益于其GPU方面的领先实力,英伟达已经在AI市场坐稳了龙头芯片供应商的位置。再加上公司在如上文谈到的软硬件的投入。相信未来无论在数据中心领域,还是AIoT市场,英伟达必然会有一席之地。

*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。

今天是《半导体行业观察》为您分享的第2449期内容,欢迎关注。

晶圆|IP|SiC|并购|射频|台积电|Nvidia|苹果

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/417995.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

语法2

页面(PAGE)标记(TAGS) HTML 文件结构(Document Structures)<html>...</html><head>...</head><body>...</body><HTML><HEAD> <title>, <base>, <link>, <isindex>, <meta></HEAD><…

生成n对括号的合法全排列

生成n对括号的合法全排列&#xff1a; 给定一整数N&#xff0c;输出N对括号的合法全排列 例&#xff1a; 2 3 ()() (()) ()()() (())() ()(()) ((())) 分析&#xff1a; 很经典的需要迭代来进行实现。 迭代的关键在于找到跳出迭代的条件&#xff0c;以及每次迭代的策略。 出口&…

springMVC 源码学习-请求映射原理

一、DispatcherServlet的继承关系 1、FrameworkServlet HttpServlet中的doGet等方法在FrameworkServlet之中重写了&#xff0c;都是调用该方法&#xff1a; 在这个方法内部调用doServlce的方法 这个doService的方法在FrameworkServlet中是一个抽象方法&#xff0c;说明是交给它…

constraintlayout布局新特性_AMD发布Ryzen PRO 4000系列移动处理器:多了超线程和商用安全特性...

昨日晚间&#xff0c;AMD正式发布了基于Renoir的最新一代商用移动处理器Ryzen PRO 4000系列&#xff0c;本次共发布3款处理器&#xff0c;分别是Ryzen 7 PRO 4750U、Ryzen 5 PRO 4650U和Ryzen 3 PRO 4450U&#xff0c;我们制作了规格对比表&#xff0c;如下&#xff1a;从规格对…

网页设计中HTML常范的五个错误

1.网页背景色的设置犯错机率&#xff1a;很大普遍性&#xff1a;较广犯错可能性&#xff1a;懒/不知道约2年前我曾发现21cn上出现过一次没有设置背景色的情况&#xff0c;当时我用Email通知了他们&#xff0c;自此之后这个问题我从没犯过。绝大部分人的窗口背景颜色都是白色&am…

mkdir与mkdirs的区别

项目中需要在代码中读取或创建文件保存路径&#xff0c;用到了mkdir&#xff0c;查看还有个mkdirs方法&#xff0c;这里记录一下两者的区别。 1、关于两者的说明如下&#xff1a; boolean mkdir() : 创建此抽象路径名指定的目录。 boolean mkdirs() : 创建此抽象路径名指定…

易支付系统源码_刷脸支付系统源码,插件源码合作模式有哪些,采购源码需要注意什么...

对刷脸支付比较关注的朋友&#xff0c;应该都知道源码。当拥有这个&#xff0c;就意味着有了独立的系统。也意味着可以打造自己的品牌&#xff0c;转化自己资源&#xff0c;获取更多的利润。但是想拥有一套源码也是不简单的&#xff0c;不仅因为编写的难度和价格&#xff0c;也…

网吧修改

Windows Registry Editor Version 5.00 (打开任务管理器) [HKEY_CURRENT_USER\Software\Microsoft\Windows\CurrentVersion\Policies\System]"DisableTaskMgr"dword:00000000 (恢复桌面右键菜单) [HKEY_CURRENT_USER\Software\Microsoft\Windows\CurrentVersion\Poli…

SpringMVC源码-不同类型的参数解析

随便写一个demo: RequestMapping("/car/{id}")public Map<String, Object> getCar(PathVariable("id") Integer id,RequestParam("type") String type,RequestParam("hobby") List<String> hobby){Map<String, Object&…

Gym 100917J---Judgement(01背包+bitset)

题目链接 http://codeforces.com/gym/100917/problem/J Description standard input/outputStatementsThe jury of Berland regional olympiad in informatics does not trust to contest management systems, so the Berland regional programming contest is judged by the n…

raid5 合适 多少块硬盘_raid1 raid2 raid5 raid6 raid10如何选择使用?各需要几块硬盘?...

我们在做监控项目存储时&#xff0c;经常会用到磁盘阵列&#xff0c;什么是磁盘阵列呢&#xff1f;那为什么要做磁盘阵列呢&#xff1f;raid1 raid2 raid5 raid6 raid10各有什么优势&#xff1f;本期我们来看下。一、什么是Raid&#xff1f;它有什么作用&#xff1f;1、什么是R…

常用设置

Windows Registry Editor Version 5.00 (加快程序运行速度)[HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\FileSystem]"NtfsDisable8dot3NameCreation"dword:00000000"Win31FileSystem"dword:00000000"Win95TruncatedExtensions"dword:…

SpringMVC 源码学习 返回值处理

SpringMVC中对返回值的数据基本分为两类&#xff1a; 1、响应数据 2、响应页面 一、响应数据 响应数据大多数都是将返回值的格式转换为JSON格式然后展示在页面或者保存i起来。 第一步&#xff1a;在SpringBoot中需要引入json场景 <dependency><groupId>org.sprin…

洛谷10月月赛Round.1| P3399 丝绸之路 [DP]

题目背景 张骞于公元前138年曾历尽艰险出使过西域。加强了汉朝与西域各国的友好往来。从那以后&#xff0c;一队队骆驼商队在这漫长的商贸大道上行进&#xff0c;他们越过崇山峻岭&#xff0c;将中国的先进技术带向中亚、西亚和欧洲&#xff0c;将那里的香料、良马传进了我国。…

body div js 放大图片_jquery图片放大插件鼠标悬停图片放大效果

都知道jquery都插件是非常强大的&#xff0c;最近分享点jquery插件效果&#xff0c;方便效果开发使用。一、HTML代码<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd"> …

MySQL数据库的优化

MySQL数据库的优化 http://www.vpser.net/opt/vps-mysql-opt.html转载于:https://www.cnblogs.com/carbon3/p/5930868.html

我的博客html

我——龙天宇 <table><tr><td width150 align"right"><DIV style"FILTER: Glow(color#4A7AC9,strength50); WIDTH: 149px; HEIGHT: 119px" aligncenter><br><img height89 width119 src"http://img.blog.163.com/p…

预览docx_Windows-快速预览文件-QuickLook

开源、免费的文件快速预览工具&#xff0c; 支持图片、文档、音视频、代码文本、压缩包等多种格式。获得 Mac OS 空格键快速预览文件相同的体验效果图文件夹音视频 浏览压缩包&#xff0c;文本支持的格式&#xff1a;图片&#xff1a;.png, .jpg, .bmp, .gif, .psd, .apng&…