5款采用AMD Instinct MI300芯片的超酷AI和HPC服务器

我们收集了戴尔科技、联想、超微和技嘉的五款超酷人工智能和高性能计算服务器,这些服务器使用 AMD 的 Instinct MI300 芯片,该芯片于几个月前推出,旨在挑战 Nvidia 在人工智能计算领域的主导地位。

5 款采用AMD Instinct MI300芯片的超酷AI和HPC服务器

AMD 正在凭借其 Instinct MI300 加速器芯片向 Nvidia 在人工智能计算领域的主导地位发起迄今为止最大的挑战。推出几个月后,多款 MI300 服务器现已上市或即将发布,作为采用 Nvidia 流行芯片的系统的替代品。

在周二召开的第一季度财报电话会议上,AMD 董事长兼首席执行官苏姿丰 (Lisa Su) 表示,MI300 在“不到两个季度的总销售额”中就创造了超过 10 亿美元的成绩,成为其历史上“增长最快的产品”。

因此,AMD 目前预计 MI300 今年将产生 40 亿美元的收入,比该公司 1 月份的预测高出 5 亿美元。

“我们现在看到的是现有客户以及承诺使用 MI300 的新客户的可见性更高,”Su 说。

MI300系列目前由两款产品组成:MI300X GPU,配备192 GB HBM3高带宽内存;MI300A APU,在同一台处理器上结合了Zen 4 CPU核心和CDNA 3 GPU核心以及128 GB HBM3内存。死。

这些芯片已应用于戴尔科技、联想、超微和技嘉等主要 OEM 厂商现已推出或即将推出的系统中。

这家总部位于加利福尼亚州圣克拉拉的公司将 MI300X 定位为 Nvidia 流行且功能强大的 H100 数据中心 GPU 的强大竞争对手,用于人工智能训练和推理。例如,该公司表示,与 Nvidia 的 8 个 GPU H100 相比,其 MI300X 平台结合了 8 个 MI300X GPU,为 1760 亿个参数的 Bloom 模型提供了 60% 高的推理吞吐量,为 70B Llama 2 模型提供了 40% 低的聊天延迟GHX 平台。

而MI300A则更针对高性能计算和AI工作负载的融合。对于 64 位浮点计算,AMD 表示 MI300A 比 H100 快 80%。 AMD 表示,与 Nvidia 的 GH200 Grace Hopper Superchip(将 Grace GPU 与 H200 GPU 结合在一起)相比,MI300A 的 HPC 性能提高了两倍。

尽管 AMD 在 MI300 芯片上发现了所有优势,但该公司必须面对这样一个事实:Nvidia 正在加速芯片路线图,并计划在今年晚些时候发布 H100、H200 和 GH200 处理器的后继产品。

在最近的财报电话会议上,Su 表示 AMD 的战略不是关于一种产品,而是关于“多年、多代路线图”,并开玩笑说,它将在“未来几个月”分享有关“今年晚些时候到 2025 年”推出的新加速器芯片的详细信息。

“我们对继续保持竞争力的能力非常有信心。坦率地说,我认为我们将变得更具竞争力,”她说。

以下是来自戴尔、联想、Supermicro 和 Gigabyte 的五款超酷 AI 和 HPC 服务器,它们使用 AMD 的 Instinct MI300X GPU 或 Instinct MI300A APU。

完整原文传送门:5款采用AMD Instinct MI300芯片的超酷AI 和HPC服务器-国外VPS网站icon-default.png?t=N7T8https://www.vps911.com/gwvpstj/1740.html

1.戴尔 PowerEdge XE9680

5 款采用AMD Instinct MI300芯片的超酷AI和HPC服务器

戴尔的 PowerEdge XE9680 是一款风冷 6U 服务器,旨在为最复杂的生成式 AI、机器学习、深度学习和高性能计算工作负载提供支持。

该服务器使用 AMD Infinity Fabric 连接八个 AMD Instinct MI300X GPU,为系统提供 1.5 TB HBM3 高带宽内存和超过 21 petaflops 的 16 位浮点 (FP16) 性能。该系统通过 32 个 DIMM 插槽支持最大 4 TB DDR5 内存,并配备多达 10 个 PCIe Gen 5 扩展插槽。

PowerEdge XE9680 预计将于今年夏天上市,其主机处理器是两个第四代 Intel Xeon 可扩展 CPU,每个处理器最多可提供 56 个内核。

该服务器最多支持 8 个 2.5 英寸 NVMe/SAS/SATA SSD 驱动器,总计 122.88 TB;最多支持 16 个 E3.S NVMe 直连驱动器,总计 122.88 TB。

PowerEdge XE9680 配备了 Dell OpenManage 系统管理软件产品组合以及基于硅的信任根等安全功能。

2.联想ThinkSystem SR685a V3

5 款采用AMD Instinct MI300芯片的超酷AI和HPC服务器

联想最近推出的ThinkSystem SR685a V3是一款风冷8U服务器,旨在处理要求最苛刻的人工智能工作负载,例如大型语言模型。

该服务器现已上市,使用 AMD Infinity Fabric 连接八个 AMD Instinct MI300X GPU,为其提供 1.5 TB HBM3 高带宽内存容量和高达 1 TBps 的峰值聚合 I/O 带宽。它还通过 24 个 DIMM 插槽支持高达 3 TB 的 DDR5 内存,并配有多达 10 个用于连接扩展卡的 PCIe Gen 5 插槽。

ThinkSystem SR685a V3 还与 Nvidia 的 H100 和 H200 GPU 以及芯片设计商即将推出的 B100 GPU 兼容。

据OEM称,该服务器的主机处理器是两个第四代AMD EPYC CPU,可以升级到下一代服务器芯片。

最多支持16个2.5英寸热插拔NVMe SSD。它还配备了两个 M.2 启动驱动器。

联想表示,其空气冷却设计提供了“巨大的热空间”,使 GPU 和 CPU 能够提供持续的最高性能。

该服务器配备了 Lenovo 的 XClarity 系统管理软件。

3.超微 AS-8125GS-TNMR2

5 款采用AMD Instinct MI300芯片的超酷AI和HPC服务器

Supermicro 的 AS-8125GS-TNMR2 是一款风冷 8U 服务器,旨在消除大型语言模型的 AI 训练瓶颈,并作为大规模训练集群的一部分。

该服务器现已上市,使用 AMD Infinity Fabric 连接八个 AMD Instinct MI300X GPU,使其能够提供 1.5 TB 的 HBM3 高带宽内存池。这是对 24 个 DIMM 插槽支持的最大 6 TB DDR5 内存的补充。

AS-8125GS-TNMR2 配备 8 个 PCIe Gen 5 薄型扩展插槽,可实现 8 个 400G 网卡和 8 个 GPU 之间的直接连接,以支持大规模集群。它还具有两个 PCIe Gen 5 全高、全长扩展插槽。

主机处理器是两个第四代 AMD EPYC CPU,每个处理器最多支持 128 个内核。

它配备 12 个 PCIe Gen 5 NVMe U.2 驱动器,还可以选择四个附加驱动器、两个热插拔 2.5 英寸 SATA 驱动器和两个 M.2 NVMe 启动驱动器。

其他功能包括内置服务器管理工​​具、Supermicro SuperCloud Composer、Supermicro Server Manager 和硬件信任根。

4.技嘉G593-ZX1

5 款采用AMD Instinct MI300芯片的超酷AI和HPC服务器

技嘉G593-ZX1是一款风冷5U服务器,专为人工智能训练和推理而设计,特别是在涉及大型语言模型和其他类型的海量人工智能模型时。

该服务器使用AMD Infinity Fabric连接八个AMD Instinct MI300X GPU,使其能够提供1.5 TB的HBM3高带宽内存和42.4 TBps的峰值理论聚合内存带宽。它还支持 24 个 DDR5 内存 DIMM,并配有 12 个用于 GPU、网卡或存储设备的 PCIe Gen 5 扩展插槽。

G593-ZX1 的主机处理器是两个第四代 AMD EPYC CPU。

它支持八个2.5英寸NVMe/SATA/SAS-4热插拔驱动器。

该服务器的功能包括驱动器托架的免工具设计、可选的 TPM 2.0 模块、智能穿越、智能危机管理和保护以及双 ROM 架构。

预计将于今年上半年上市。

5.Supermicro AS-2145GH-TNMR

5 款采用AMD Instinct MI300芯片的超酷AI和HPC服务器

Supermicro 的 AS-2145GH-TNMR 是一款液冷 2U 服务器,旨在加速高性能计算工作负载。

该服务器现已上市,配备四个 AMD Instinct MI300A 加速器,每个加速器在同一芯片封装上结合了 Zen 4 CPU 和 CDNA 3 GPU 内核以及 HBM3 内存,以打破 CPU-GPU 通信的传统瓶颈。每个芯片上配备128GB HBM3高带宽内存,系统总共提供512GB内存。

AS-2145GH-TNMR 支持八个 2.5 英寸 US NVMe 热插拔驱动器选件。它还配备了两个 M.2 NVMe 启动驱动器。

Supermicro表示,与风冷解决方案相比,该服务器的直接芯片定制液体冷却技术使数据中心运营商能够将总拥有成本降低51%以上。它还使粉丝数量减少了 70%。

AS-2145GH-TNMR 配备两个紧凑型 PCIe Gen 5 AIOM 插槽和八个 PCIe Gen 5 x 16 插槽,支持超级计算集群的 400G 以太网 InfiniBand 网络。

其他功能包括内置服务器管理工​​具、Supermicro SuperCloud Composer、Supermicro Server Manager 和 SuperDoctor 5。

更多服务器资讯欢迎访问我的网站:国外VPS资讯网

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/832177.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Navicat 17 Beta | 下载链接

Navicat Premium 17 Beta 英文版 Windows https://dn.navicat.com.cn/download/beta/navicat170_premium_en_x64.exe Mac https://dn.navicat.com.cn/download/beta/navicat170_premium_en.dmg Linux (x86_64) https://dn.navicat.com.cn/download/beta/navicat17-premiu…

新手必看!场外个股期权的权利金估算公式

场外个股期权的权利金估算公式 场外个股期权的权利金估算公式通常涉及多个因素,这些因素共同决定了权利金的具体数额。虽然具体的估算公式可能因不同的交易平台、交易规则和标的资产而有所差异,但一般来说,权利金的计算会考虑以下几个关键要…

区块链 | 一文了解 NFT 的生态系统(上)

🐶原文: Understanding Security Issues in the NFT Ecosystem 🐶写在前面: 本博客只摘取了原论文的第二、三节。 技术背景知识 在本节中,我们将介绍以太坊生态系统的构建模块,重点关注「NFT,…

毕业单纯的钻研嵌入式知识有前景吗?

毕业之后单纯地去钻研嵌入式知识到底有没有前景呢?不可否认的是,嵌入式领域有着较高的薪资待遇,并且还存在着巨大的上升空间。然而,要学习嵌入式开发并非易事,其中存在着诸多挑战。其中一个挑战就是需要深入理解计算机…

前端奇怪面试题总结

面试题总结 不修改下面的代码进行正常结构 这道题考的是迭代器和生成器的概念 let [a,b] {a:1,b:2}答案 对象缺少迭代器,需要手动加上 Object.prototype[Symbol.iterator] function* (){// return Object.values(this)[Symbol.iterator]()return yeild* Object.v…

SpringBootWeb创建

创建spring项目 创建SpringBoot工程定义请求处理类运行常见问题java: 无效的源发行版: XXjava: 无法访问org.springframework.web.bind.annotation.RequestMapping类文件具有错误的版本 61.0, 应为 52.0 创建SpringBoot工程 定义请求处理类 RestController public class HelloC…

数字主线与数字孪生

当今具有前瞻性的组织正在使用数字线程和数字孪生。然而,许多传统的数字主线平台并未针对公司的成功进行优化。基于产品生命周期管理 (PLM) 解决方案实施集成的数字孪生和数字线程策略是更好的选择。然后,组织可以以新的方式连接和使用信息来推动业务和创…

毕业设计uniapp+vue有机农产品商城系统 销售统计图 微信小程序

本人在网上找了一下这方面的数据发现农村中的信心普及率很是低农民们都不是怎么会用手机顶多就是打打电话发发短信,平时不太会上网更不会想到通过网络手段去卖出自己的劳作成果—农产品,这无疑大大浪费了农民的劳动成果和国家资源也大大打击了人们的生产…

Centos7配置NFS

环境描述 服务器IP为192.168.200.132客户机IP为192.168.200.143 服务器配置 首先安装软件包 [rootlocalhost ~]# yum install nfs-utils rpcbind //我这里已经安装完毕了建立共享目录 [rootlocalhost ~]# mkdir -p /data/share更改文件夹权限 chmod 777 /data/share编辑配置…

vsftp虚拟用户和ssl加密配置 —— 筑梦之路

为什么要用虚拟用户? 1.增强安全性:使用虚拟用户,可以避免直接使用系统账户进行 FTP 访问,通过使用虚拟用户,可以限制 FTP 用户的访问范围和权限,减少潜在的安全风险。 2.隔离用户和文件:虚拟用户可以被隔…

当Linux系统运行时间长了之后,会出现磁盘空间不足提示,需要及时进行清理

Linux系统(CentOS 7)的磁盘空间不足时,可以采取以下步骤进行清理: 查找并删除大文件: 使用du和find命令可以找到并删除大文件。例如,要查找/目录下大于100MB的文件,可以运行: find /…

docker如何关闭证书认证

目录 前言关闭Docker认证的步骤修改pom 前言 当docker认证证书过期了,项目又要马上上线怎么办?重新生成证书,时间来不及,这时最快的方法就是关闭证书认证。 关闭Docker认证的步骤 停止Docker服务 systemctl stop docker编辑Do…

Ts创建的详细过程及配置步骤(傻瓜式配置创建),最后效果展示

一:首先创建一个 空文件夹 二:使用编辑器打开,再创建一个src文件夹,然后按照以下步骤

VMware worksation 17 简易安装Centos8.2、Redhat8.2、Ubuntu16.04

系列文章目录 文章目录 系列文章目录前言一、VMware worksation 17 安装二、安装Centos8.2三、安装RHEL8.2四、安装Ubuntu16.04总结 前言 傻瓜式按照Linux系统,如果觉得简单,可以自定义设置,特别是配置一下磁盘空间大小,对以后排…

2023年上半年系统规划与管理师上午真题及答案解析

1.香农用概率来定量描述信息的公式如下,其中H(x)表示X的( ),Pi是( )出现第i种状态的( )。 A.信息熵 事件 概率 B.总熵 单位 概率 C.信息熵 单位 概率 D.总熵 单位 度量 2.信息传输模型中,( )负责信息的向外传播,( )负责…

数据结构--链表进阶面试题

在链表题目开始之前我们来复习一道数组元素的逆序问题&#xff1a; 给定一个整数数组 nums&#xff0c;将数组中的元素向右轮转 k 个位置&#xff0c;其中 k 是非负数。 提示&#xff1a; 1 < nums.length < 10^5-2^31 < nums[i] < 2^31 - 10 < k < 10^5 思…

数论12-欧拉定理与费马小定理

点个关注吧谢谢&#xff01; 欧拉定理 设 m m m是正整数&#xff0c; r ∈ Z m r\in \mathbb{Z}_m r∈Zm​且 g c d ( r , m ) 1 gcd(r,m)1 gcd(r,m)1。那么&#xff1a; r ϕ ( m ) 1 ( m o d m ) r^{\phi(m)}1(mod~m) rϕ(m)1(mod m) 证&#xff1a;设 r 1 , r 2 , . . .…

java.io.EOFException异常的正确解决方法

本文将探讨java.io.EOFException异常及其正确的解决方法。EOFException是Java I/O操作中常见的异常之一&#xff0c;通常表示程序试图读取文件或数据流的末尾之外的内容。我们将从报错问题、报错原因和解决方案三个方面详细解析这一异常&#xff0c;并提供有效的处理方法。 文章…

wordpress子比主题给文章内容加上密码查看

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录 前言一、pandas是什么?二、使用步骤1.引入库2.读入数据第三步:文章内添加代码前言 提示:这里可以添加本文要记录的大概内容: 例如:随着人工智能的不断发展,机器学习这门技术也越来越重要,…

Linux的权限

什么是权限 权限是计算机系统中一个重要的安全机制&#xff0c;旨在控制和限制对资源的访问。设置权限的主要目的包括&#xff1a; 保护系统资源 权限控制可以保护关键系统文件、目录和配置不被未授权用户或程序修改或删除。这样可以防止系统被破坏或者出现故障。 保护用户…