HBM3内存子系统传输速率惊人,带宽突破1TB/S!

记者 | 邓晓娟

8月25日,内存IP厂商Rambus推出HBM3内存接口子系统。内含完全集成的PHY和数字控制器,传输速率达8.4Gbps;可为AI/ML和高性能计算(HPC)等应用和解决方案提供1TB/s的带宽速率;采用标准的16通道设置,可达到1024位宽接口,实现更高的颗粒度,相比当前高端HBM2E内存子系统高出两倍以上;同时,Rambus的HBM3还支持2、4、8、12和16 HBM3 DRAM堆栈,信道密度达32Gb。

一、在数据传输速率、带宽、密度上都有独特优势,不仅仅是更小的尺寸

随着AI/ML领域里越来越多的厂商不断发力,内存产品设计的复杂性也快速上升,对带宽也提出了更高的要求,神经网络、AI训练等在内存带宽需求上面临着越来越高的挑战。

同时,AI/ML训练对于内存带宽的需求是无止境的,一些前沿训练模型现已拥有数以十亿的参数。这无疑是对内存IP行业的一个大挑战。

回顾HBM的性能演进历程,最早的HBM1数据传输速率大概能达到1Gbps左右,而在2016年时,HBM2带来最高的数据传输速率可达到2Gbps;到了2018年,HBM2E时代的最高传输速率已经可以达到3.6Gbps了,而后逐渐上升到3.6Hbps。

 HBM性能演进

Rambus IP核产品营销高级总监Frank Ferro表示,HBM3也会与之前的HBM产品一样,会经历一个发力的过程。HBM3目前拥有的8.4Gbps的传输速率,在持续发力后也会在传输速率上有更大的提升。并且Rambus选择8.4Gbps的速率也是出于未来产品规划的一些考量,可以为客户提供更高的设计裕度,为未来的产品开发做好后续准备。

二、Rambus HBM3内存子系统主要架构及技术优势

据Frank介绍,在HBM3-Ready内存子系统产品架构上,顶层设置了4块DRAM内存条,通过TSV堆叠的方式叠加在一起,下方是SoC,再往下是中介层,在中阶层下面是绿色的封装。这些部分组成了整个2.5D的系统架构。

 2.5D/3D系统架构的HBM3内存 

而作为一个完整的内存子系统产品,仅仅提供IP是不够的。所以Rambus在提供IP的同时也提供泛IP和整个系统的具体设计,包括经过验证的PHY及数字控制器。

除此之外,2.5D系统架构的HBM内存目前在市面上还是比较新的,优先使用这些新技术的客户需要更多的支持,所以Rambus在中介层和封装上也会提供更好的参考设计支持和框架。提供Rambus系统和SI/PI专家技术支持,为ASIC设计人员提供帮助,确保设备和系统具有最优的信号和电源完整性。这些都是整个内存子系统领域非常重要的环节。

对于AI/ML、HPC等领域的客户而言,他们对TB级带宽有着非常强的需求。Frank表示,Rambus本次推出的HBM3-Ready内存子系统可以满足其在TB级带宽领域加速的性能标准;完全继承的HBM3内存接口子系统IP解决方案包括了经过优化的PHY和控制器,为客户提供中介层和封装的物理参考设计,简化设计流程,从而帮助客户加快产品上市时间。

三、发力HBM3的原因

如今,HBM3的整体发展进度是比行业预期要更晚一些的,不少业内人士认为,内存颗粒和接口IP是限制HBM3技术突破的主要原因。对此,Frank认为,DRAM与HBM的发展是相辅相成、共同促进的。对比之下,其实从DDR4到DDR5过渡的时间很长,但HBM技术迭代的速度非常快,也印证了HBM领域整体发展的迅速。

这背后对应的主要逻辑是:HBM的发展很大程度上是由不断上升的带宽需求驱动的,而对带宽的需求几乎没有上限。换句话说,目前来看HBM的发展可能不会遇到障碍。无论是HBM2高达4Gbps的数据传输速率,还是前一段时间海力士发布的5.2Gbps数据传输速率的HBM3产品,其实都证实了大家对HBM领域的看好,这也是Rambus对HBM抱有高期望的几大原因之一。

同时,尽管目前HBM3的速率已经可以达到8.4Gbps,但对比GDDR DRAM已经达到16或者18Gbps的速率而言还是有差距的。简单来说,HBM发展的限制目前集中在中介层上。在HBM2的时代,中介层本身的技术是有限制的,即一代和二代的中介层最高只能做到两层,它涉及的线宽、金属层的厚度都是非常有限的。随着中介层技术的发展,其本身的厚度、金属层和线宽都有了一定的增加,这也进一步推动了HBM未来的发展。

总地来说,HBM现在依旧处于相对早期的阶段,所以未来还有很长一段路要走。

Frank还表示,Rambus发力HBM3也有着主要的差异化优势:

  • 拥有全系列由集成和优化后的PHY和存储器控制器组成的内存子系统
  • 当前业界最高的数据传输速率(8.4 Gbps)和带宽
  • 系统级设计支持,包括中介层和封装参考设计

以及拥有着丰富的HBM生产经验:

  • 自2017年以来,Rambus一直致力于生产和提供HBM解决方案
  • 市场份额排名第一的HBM IP供应商,赢得超过50个设计订单

另外,Rambus大中华区总经理苏雷也表示,从行业背景上我们可以窥见,数据中心的快速增长正驱动着技术的需求和发展。在大数据时代下,数据量持续激增,年复合增长达到35%,各种数据开始加速向云迁移,带来了云服务的蓬勃发展,并最终驱动了数据中心的持续增长。另外物联网设备的数量也日益增加,开启了万物互联的时代,越来越多的数据开始运行在外部,从而让业内对数据安全的担忧日益增加。最后,在大数据的处理方面,AI/ML的使用率也将日益提升,预计到2025年,全球数据使用量将达到175ZB,并且有超过25%的服务器出货将会专供与人工智能领域。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/514273.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

android 如何读取cgi_Python基础教程(十):CGI编程、MySQL数据库

Python CGI编程什么是CGICGI 目前由NCSA维护,NCSA定义CGI如下:CGI(Common Gateway Interface),通用网关接口,它是一段程序,运行在服务器上如:HTTP服务器,提供同客户端HTML页面的接口。网页浏览为了更好的了解CGI是如何工作的&…

10亿+文件数压测,阿里云JindoFS轻松应对

简介: Apache Hadoop FileSystem (HDFS) 是被广为使用的大数据存储方案,其核心元数据服务 NameNode 将全部元数据存放在内存中,因此所能承载的元数据规模受限于内存,单个实例所能支撑的文件个数大约 4亿。JindoFS块模式是阿里云基…

一文简单弄懂tensorflow_在tensorflow中设置梯度衰减

我是从keras入门深度学习的,第一个用的demo是keras实现的yolov3,代码很好懂(其实也不是很好懂,第一次也搞了很久才弄懂) 然后是做的车牌识别,用了tiny-yolo来检测车牌位置,当时训练有4w张图片&a…

打破“单点防护”缺陷,山石网科发布“云网端”XDR解决方案

编辑 | 宋 慧 供稿 | 山石网科 出品 | CSDN云计算 近年来,CISO面临的安全形势可谓“内忧外患”,对内面临多样化的网络接入途径、庞大且繁杂的IT资产;对外面临攻防关系、攻防手段、网络攻击的数量等呈指数级增长等问题,给组织的…

Serverless 场景下 Pod 创建效率优化

简介: 众所周知,Kubernetes 是云原生领域的基石,作为容器编排的基础设施,被广泛应用在 Serverless 领域。弹性能力是 Serverless 领域的核心竞争力,本次分享将重点介绍基于 Kubernetes 的 Serverless 服务中&#xff0…

安装wordcloud_COVID19数据分析实战:WordCloud 词云分析

↑↑点击上方蓝字,回复资料,N个G的惊喜前言上一篇文章(链接)我们对COVID19_line_list数据集进行了清洗以及初步分析。本文中我们将分析如何用词云来展示文本信息的概要。比如我们从词云百度百科截取文字,制作词云。简单来说,词云就…

到达率99.9%:闲鱼消息在高速上换引擎(集大成)

简介: 记录这一年闲鱼消息的优化之路 1. 背景 在2020年年初的时候接手了闲鱼的消息,当时的消息存在各种问题,网上的舆情也是接连不断:“闲鱼消息经常丢失”、“消息用户头像乱了”、“订单状态不对”(相信现在看文章的…

1小时打造HaaS版小小蛮驴智能车

1、认识一下小小蛮驴真面目 1.1、组件部分 HaaS100核心板 HaaS100是一款物联网场景中的标准硬件,并配套嵌入到硬件中的软件驱动及功能模块,为用户提供物联网设备高效开发服务。 HaaS100核心板有着丰富的外设接口,如下所示: 智…

Spring Boot Admin 集成诊断利器 Arthas 实践

简介: Arthas 是 Alibaba 开源的 Java 诊断工具,具有实时查看系统的运行状况;查看函数调用参数、返回值和异常;在线热更新代码;秒解决类冲突问题;定位类加载路径;生成热点;通过网页诊…

设计方案,拿来吧你!

作者:零一来源:前端印象前言大家好,我是零一,今天要跟大家聊聊开发流程中不起眼的环节——设计方案。你们可能没听过,也可能只是简单得走过过场,别划走,这非常重要!在字节&#xff0…

借力阿里云存储产品 延锋彼欧加速数字化重塑

简介: 延锋彼欧作为汽车外饰件生产的领航企业,通过基于业务和数据驱动的数字化管理,释放工业设备数据潜能提升产能。依托阿里云“稳定、安全、可靠、易用”的存储服务,延锋彼欧的发展步伐将更为稳健。 “一日骋千里,无…

英雄帖!移动云首批最有价值专家(MVP)招募开始了!

这是开发者的时代,这是价值重塑的时代。站在科技的潮头,我们期待去引领、去挖掘、去创造……移动云已迎来飞速发展的黄金期,移动云开发者社区将成为业界优秀开发者的聚集地。今天,移动云开发者社区正式开启移动云MVP首批招募&…

无责任畅想:云原生中间件的下一站

简介: 本文源自 2020 年 12 月 20 日作者在云原生社区 meetup 第二期北京站演讲 《Apache Dubbo-go 在云原生时代的实践与探索》的部分内容 自从以 2013 年开源的 docker 为代表的的容器技术和以 2014 年开源的 K8s 为代表的容器编排技术登上舞台之后,相…

深度剖析:Redis 分布式锁到底安全吗?看完这篇文章彻底懂了!

作者 | Kaito 来源 | 水滴与银弹阅读本文大约需要 20 分钟。大家好,我是 Kaito。这篇文章我想和你聊一聊,关于 Redis 分布式锁的「安全性」问题。Redis 分布式锁的话题,很多文章已经写烂了,我为什么还要写这篇文章呢?因…

Spring Boot 微服务性能下降九成!使用 Arthas 定位根因

简介: 接收到公司业务部门的开发反馈,应用在升级公司内部框架后,UAT(预生产)环境接口性能压测不达标。 背景 接收到公司业务部门的开发反馈,应用在升级公司内部框架后,UAT(预生产&a…

阿里研究员:线下环境为何不稳定?怎么破

简介: 为什么线下环境的不稳定是必然的?我们怎么办?怎么让它尽量稳定一点? 这篇文章想讲两件事: 为什么线下环境[1]的不稳定是必然的?我们怎么办?怎么让它尽量稳定一点? 此外&#…

谁说技术男不浪漫!90后程序员2天做出猫咪情绪识别软件

整理 | 王晓曼出品 | CSDN(ID:CSDNnews)9月1日,一则关于#程序员2天做出猫咪情绪识别软件#的话题登上微博热搜,参与阅读的人数达到了8218.1万,讨论次数1.3万,引发网友们的热议。高手在民间&#…

闲鱼如何一招保证推荐流稳如泰山

简介: 风雨不动安如山 背景 近几年互联网的快速发展中,互联网业务发展越来越复杂,业务也被拆分得越来越细,阿里内部业务也发生着翻天覆地的变化,从最初的单体应用,到后面的分布式集群,再到最近…

电商直播平台如何借助容器与中间件实现研发效率提升100%?

简介: 经过实际场景验证及用户的综合评估,电商直播平台借助全面的云原生容器化能力和中间件产品能力,大幅提升开发部署运维效率达50%~100%,极大地提升了用户体验,为业务持续发展打下了坚实的基础。 前言 直播带货是近…

在游戏运营行业,Serverless 如何解决数据采集分析痛点?

简介: 众所周知,游戏行业在当今的互联网行业中算是一棵常青树。在疫情之前的 2019 年,中国游戏市场营收规模约 2884.8 亿元,同比增长 17.1%。2020 年因为疫情,游戏行业更是突飞猛进。玩游戏本就是中国网民最普遍的娱乐…