HBM3内存子系统传输速率惊人,带宽突破1TB/S!

记者 | 邓晓娟

8月25日,内存IP厂商Rambus推出HBM3内存接口子系统。内含完全集成的PHY和数字控制器,传输速率达8.4Gbps;可为AI/ML和高性能计算(HPC)等应用和解决方案提供1TB/s的带宽速率;采用标准的16通道设置,可达到1024位宽接口,实现更高的颗粒度,相比当前高端HBM2E内存子系统高出两倍以上;同时,Rambus的HBM3还支持2、4、8、12和16 HBM3 DRAM堆栈,信道密度达32Gb。

一、在数据传输速率、带宽、密度上都有独特优势,不仅仅是更小的尺寸

随着AI/ML领域里越来越多的厂商不断发力,内存产品设计的复杂性也快速上升,对带宽也提出了更高的要求,神经网络、AI训练等在内存带宽需求上面临着越来越高的挑战。

同时,AI/ML训练对于内存带宽的需求是无止境的,一些前沿训练模型现已拥有数以十亿的参数。这无疑是对内存IP行业的一个大挑战。

回顾HBM的性能演进历程,最早的HBM1数据传输速率大概能达到1Gbps左右,而在2016年时,HBM2带来最高的数据传输速率可达到2Gbps;到了2018年,HBM2E时代的最高传输速率已经可以达到3.6Gbps了,而后逐渐上升到3.6Hbps。

 HBM性能演进

Rambus IP核产品营销高级总监Frank Ferro表示,HBM3也会与之前的HBM产品一样,会经历一个发力的过程。HBM3目前拥有的8.4Gbps的传输速率,在持续发力后也会在传输速率上有更大的提升。并且Rambus选择8.4Gbps的速率也是出于未来产品规划的一些考量,可以为客户提供更高的设计裕度,为未来的产品开发做好后续准备。

二、Rambus HBM3内存子系统主要架构及技术优势

据Frank介绍,在HBM3-Ready内存子系统产品架构上,顶层设置了4块DRAM内存条,通过TSV堆叠的方式叠加在一起,下方是SoC,再往下是中介层,在中阶层下面是绿色的封装。这些部分组成了整个2.5D的系统架构。

 2.5D/3D系统架构的HBM3内存 

而作为一个完整的内存子系统产品,仅仅提供IP是不够的。所以Rambus在提供IP的同时也提供泛IP和整个系统的具体设计,包括经过验证的PHY及数字控制器。

除此之外,2.5D系统架构的HBM内存目前在市面上还是比较新的,优先使用这些新技术的客户需要更多的支持,所以Rambus在中介层和封装上也会提供更好的参考设计支持和框架。提供Rambus系统和SI/PI专家技术支持,为ASIC设计人员提供帮助,确保设备和系统具有最优的信号和电源完整性。这些都是整个内存子系统领域非常重要的环节。

对于AI/ML、HPC等领域的客户而言,他们对TB级带宽有着非常强的需求。Frank表示,Rambus本次推出的HBM3-Ready内存子系统可以满足其在TB级带宽领域加速的性能标准;完全继承的HBM3内存接口子系统IP解决方案包括了经过优化的PHY和控制器,为客户提供中介层和封装的物理参考设计,简化设计流程,从而帮助客户加快产品上市时间。

三、发力HBM3的原因

如今,HBM3的整体发展进度是比行业预期要更晚一些的,不少业内人士认为,内存颗粒和接口IP是限制HBM3技术突破的主要原因。对此,Frank认为,DRAM与HBM的发展是相辅相成、共同促进的。对比之下,其实从DDR4到DDR5过渡的时间很长,但HBM技术迭代的速度非常快,也印证了HBM领域整体发展的迅速。

这背后对应的主要逻辑是:HBM的发展很大程度上是由不断上升的带宽需求驱动的,而对带宽的需求几乎没有上限。换句话说,目前来看HBM的发展可能不会遇到障碍。无论是HBM2高达4Gbps的数据传输速率,还是前一段时间海力士发布的5.2Gbps数据传输速率的HBM3产品,其实都证实了大家对HBM领域的看好,这也是Rambus对HBM抱有高期望的几大原因之一。

同时,尽管目前HBM3的速率已经可以达到8.4Gbps,但对比GDDR DRAM已经达到16或者18Gbps的速率而言还是有差距的。简单来说,HBM发展的限制目前集中在中介层上。在HBM2的时代,中介层本身的技术是有限制的,即一代和二代的中介层最高只能做到两层,它涉及的线宽、金属层的厚度都是非常有限的。随着中介层技术的发展,其本身的厚度、金属层和线宽都有了一定的增加,这也进一步推动了HBM未来的发展。

总地来说,HBM现在依旧处于相对早期的阶段,所以未来还有很长一段路要走。

Frank还表示,Rambus发力HBM3也有着主要的差异化优势:

  • 拥有全系列由集成和优化后的PHY和存储器控制器组成的内存子系统
  • 当前业界最高的数据传输速率(8.4 Gbps)和带宽
  • 系统级设计支持,包括中介层和封装参考设计

以及拥有着丰富的HBM生产经验:

  • 自2017年以来,Rambus一直致力于生产和提供HBM解决方案
  • 市场份额排名第一的HBM IP供应商,赢得超过50个设计订单

另外,Rambus大中华区总经理苏雷也表示,从行业背景上我们可以窥见,数据中心的快速增长正驱动着技术的需求和发展。在大数据时代下,数据量持续激增,年复合增长达到35%,各种数据开始加速向云迁移,带来了云服务的蓬勃发展,并最终驱动了数据中心的持续增长。另外物联网设备的数量也日益增加,开启了万物互联的时代,越来越多的数据开始运行在外部,从而让业内对数据安全的担忧日益增加。最后,在大数据的处理方面,AI/ML的使用率也将日益提升,预计到2025年,全球数据使用量将达到175ZB,并且有超过25%的服务器出货将会专供与人工智能领域。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/514273.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

android 如何读取cgi_Python基础教程(十):CGI编程、MySQL数据库

Python CGI编程什么是CGICGI 目前由NCSA维护,NCSA定义CGI如下:CGI(Common Gateway Interface),通用网关接口,它是一段程序,运行在服务器上如:HTTP服务器,提供同客户端HTML页面的接口。网页浏览为了更好的了解CGI是如何工作的&…

爱奇艺体育:体验Serverless极致扩缩容,资源利用率提升40%

简介: Serverless 应用引擎 SAE 是面向应用的 Serverless PaaS平台,提供了效率更高、成本更优的一站式应用托管方案。零门槛零改造零容器基础,即享ServerlessK8s微服务带来的技术红利。爱奇艺通过使用 SAE 解决了体育直播面临的痛点&#xff…

怎么用python读取EXCEL表格第3行内容?

要使用Python读取Excel表格中的数据并输出第3行的内容,你可以使用pandas库。下面是一个简单的示例代码: python import pandas as pd # 读取Excel文件 df pd.read_excel(文件名.xlsx) # 输出第3行的内容 print(df.iloc[2]) 在上面的代码中&#xff0…

10亿+文件数压测,阿里云JindoFS轻松应对

简介: Apache Hadoop FileSystem (HDFS) 是被广为使用的大数据存储方案,其核心元数据服务 NameNode 将全部元数据存放在内存中,因此所能承载的元数据规模受限于内存,单个实例所能支撑的文件个数大约 4亿。JindoFS块模式是阿里云基…

一文简单弄懂tensorflow_在tensorflow中设置梯度衰减

我是从keras入门深度学习的,第一个用的demo是keras实现的yolov3,代码很好懂(其实也不是很好懂,第一次也搞了很久才弄懂) 然后是做的车牌识别,用了tiny-yolo来检测车牌位置,当时训练有4w张图片&a…

打破“单点防护”缺陷,山石网科发布“云网端”XDR解决方案

编辑 | 宋 慧 供稿 | 山石网科 出品 | CSDN云计算 近年来,CISO面临的安全形势可谓“内忧外患”,对内面临多样化的网络接入途径、庞大且繁杂的IT资产;对外面临攻防关系、攻防手段、网络攻击的数量等呈指数级增长等问题,给组织的…

Serverless 场景下 Pod 创建效率优化

简介: 众所周知,Kubernetes 是云原生领域的基石,作为容器编排的基础设施,被广泛应用在 Serverless 领域。弹性能力是 Serverless 领域的核心竞争力,本次分享将重点介绍基于 Kubernetes 的 Serverless 服务中&#xff0…

安装wordcloud_COVID19数据分析实战:WordCloud 词云分析

↑↑点击上方蓝字,回复资料,N个G的惊喜前言上一篇文章(链接)我们对COVID19_line_list数据集进行了清洗以及初步分析。本文中我们将分析如何用词云来展示文本信息的概要。比如我们从词云百度百科截取文字,制作词云。简单来说,词云就…

到达率99.9%:闲鱼消息在高速上换引擎(集大成)

简介: 记录这一年闲鱼消息的优化之路 1. 背景 在2020年年初的时候接手了闲鱼的消息,当时的消息存在各种问题,网上的舆情也是接连不断:“闲鱼消息经常丢失”、“消息用户头像乱了”、“订单状态不对”(相信现在看文章的…

Mendix:低代码开发平台 让未来工作模式日渐明朗

编辑 | 宋 慧 供稿 | Mendix 出品 | CSDN云计算 在深受疫情影响的2020年之前,为了更好地满足快速发展和业务扩展需求,企业软件领域出现了很多关于现代化、自动化和数字化转型的学术性讨论。 但这些讨论之前大多停留在了理论探讨阶段,很可能是…

1小时打造HaaS版小小蛮驴智能车

1、认识一下小小蛮驴真面目 1.1、组件部分 HaaS100核心板 HaaS100是一款物联网场景中的标准硬件,并配套嵌入到硬件中的软件驱动及功能模块,为用户提供物联网设备高效开发服务。 HaaS100核心板有着丰富的外设接口,如下所示: 智…

python爬去知乎评论_python 爬取知乎

前言:为了帮都哥解决python 爬虫时遇到的问题,又复习了下python,并且尝试爬取了知乎页面。 在这里记下遇到的问题。踩点正常登录一次 知乎 并在Fiddler面板查看详细信息Fiddler查看Header获取请求内容POST http://www.zhihu.com/login/email …

Spring Boot Admin 集成诊断利器 Arthas 实践

简介: Arthas 是 Alibaba 开源的 Java 诊断工具,具有实时查看系统的运行状况;查看函数调用参数、返回值和异常;在线热更新代码;秒解决类冲突问题;定位类加载路径;生成热点;通过网页诊…

设计方案,拿来吧你!

作者:零一来源:前端印象前言大家好,我是零一,今天要跟大家聊聊开发流程中不起眼的环节——设计方案。你们可能没听过,也可能只是简单得走过过场,别划走,这非常重要!在字节&#xff0…

借力阿里云存储产品 延锋彼欧加速数字化重塑

简介: 延锋彼欧作为汽车外饰件生产的领航企业,通过基于业务和数据驱动的数字化管理,释放工业设备数据潜能提升产能。依托阿里云“稳定、安全、可靠、易用”的存储服务,延锋彼欧的发展步伐将更为稳健。 “一日骋千里,无…

周围剃光头顶留长发型_为啥很多头顶光光的人,宁愿留周围一圈头发,也不剃成光头呢?...

为啥很多“头顶光光”的人,宁愿留周围一圈头发,也不剃成光头呢?01 老公的故事说起这事,还真有故事发生:雪儿的老公以前可帅了,180的高个,而且皮肤细腻,颇具男子气概。结婚5年后&…

英雄帖!移动云首批最有价值专家(MVP)招募开始了!

这是开发者的时代,这是价值重塑的时代。站在科技的潮头,我们期待去引领、去挖掘、去创造……移动云已迎来飞速发展的黄金期,移动云开发者社区将成为业界优秀开发者的聚集地。今天,移动云开发者社区正式开启移动云MVP首批招募&…

无责任畅想:云原生中间件的下一站

简介: 本文源自 2020 年 12 月 20 日作者在云原生社区 meetup 第二期北京站演讲 《Apache Dubbo-go 在云原生时代的实践与探索》的部分内容 自从以 2013 年开源的 docker 为代表的的容器技术和以 2014 年开源的 K8s 为代表的容器编排技术登上舞台之后,相…

Linux系统诊断-内存基础

简介: Linux系统诊断-内存基础 1. 背景 谈及linux内存,很多时候,我们会关注free,top等基础命令。当系统遇到异常情况时,内存问题的根因追溯,现场诊断时,缺乏深层次的debug能力。本篇幅不做深层…

深度剖析:Redis 分布式锁到底安全吗?看完这篇文章彻底懂了!

作者 | Kaito 来源 | 水滴与银弹阅读本文大约需要 20 分钟。大家好,我是 Kaito。这篇文章我想和你聊一聊,关于 Redis 分布式锁的「安全性」问题。Redis 分布式锁的话题,很多文章已经写烂了,我为什么还要写这篇文章呢?因…