英伟达AI超大规模组网平台方案

02768bc717239ddb6f2c1996bbb28c33.jpeg 

英伟达GPU:AI超大规模组网

   "英伟达,引领GPU技术革新,持续加速AI超大规模组网进程。自2024年起,英伟达每2年将推出一代新型GPU架构,如今的Blackwell芯片已投入生产。展望未来,2025年,我们将见证Blackwell Ultra AI芯片的诞生;2026年,“Rubin”下一代AI平台将隆重登场;至2027年,Rubin Ultra芯片将迎来更新,频率将提升至每年一次。英伟达,与您共创无限可能的未来。"

英伟达的BlackLabe在性能上高于AMD的Instinct MI325X和谷歌的Trillium芯片。BlackLabe是英伟达全球首个专为AI设计的高性能以太网架构Spectrum-X的一部分,目前正在为多家客户进行量产。

英伟达表达了发力 AI 以太网的决心,其全球首个专为 AI 设计的高性能以太网架构 Spectrum-X,目前正在为多家客户进行量产,公司预计 SpectrumX 将在一年内跃升至数十亿美元的产品线。

英伟达推出了适用于以太网的Spectrum X800 交换机。此外,英伟达计划在 2025 年推出 Spectrum X800 Ultra,X800 将支持 10 万卡算力集群互联,而后续的 Spectrum X1600 将支持百万卡算力集群互联。

1 英伟达持续保持 GPU 领先优势

GPU 性能持续提升,生成单个 Token 功耗大幅降低。从“Pascal”P100 GPU 一代到“Blackwell”B100 GPU 一代,8 年间 GPU 的性能提升了 1053 倍,从 19 TFLOPS提升到 20000 TFLOPS。功耗方面,Blackwell 在 Token 生成能耗上大幅降低。在 Pascal时代,每个 Token 消耗的能量高达 1.7 万焦耳,Blackwell 使得生成每个 Token 只需消耗 0.4 焦耳的能量。

英伟达凭借产品迭代速度的提升,保持了显著的产品性能优势。在2024年各大GPU厂商新推出的产品中,英伟达Blackwell系列GPU性能超越AMD的Instinct MI325X和谷歌的Trillium芯片。尽管Blackwell芯片尚未量产,但英伟达仍保持较大竞争优势。

2 英伟达发力AI以太网,超大规模组网趋势明确

英伟达在财报会上展示了其全力投入AI以太网的决心。Spectrum X800交换机,每秒51.2TB的速度和256路径(radix)的支持能力,专为以太网设计,引领行业潮流。英伟达计划于2025年推出Spectrum X800Ultra,将支持高达10万卡的算力集群互联。随着X800和后续的Spectrum X1600相继问世,百万卡算力集群互联将成为可能,以太网在AI集群组网上的应用前景一片光明,持续增长势头不可阻挡。

英伟达计划在2024年第二季度开始量产专为中国设计的AI GPU 芯片H20。此外,英伟达GPU 芯片的快速迭代,加速了1.6T光模需求的释放。NVIDIA Quantum-X800 是英伟达第一款使用 200Gb/s-per-laneSerDes 方案的交换机设备,通过 72 个 OSPF 1.6T 光模块提供 144 个 800G 端口,明确了 1.6T 光模块需求。

博通在官网给出了基于单通道 200G 光通信技术的网络架构图。根据博通的方案,单通道 200G 光通信技术可以适配 51.2T/102.4T 两个代际的交换机芯片。单通道 200G 光网络包括了 EML、VCSEL、CW 光源、基于单通道 200G 方案的 1.6T光模块、线缆等。

在2024H2至2025期间,1.6T光模块的研发与交付能力仍将主导光模块厂商竞争格局,有利于头部企业巩固优势。同时,低时延、低成本、低功耗的CPO、LPO、硅光、薄膜铌酸锂等技术或为新进企业带来突破机会。

-对此,您有什么看法见解?-

-欢迎在评论区留言探讨和分享。-

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/61160.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

计算机网络:概述知识点及习题练习

网课资源: 湖科大教书匠 1、因特网 网络之间需要路由器进行互联,互联网是网络的网络,因特网是最大的互联网,连接到网络的设备称为主机,一般不叫路由器为主机。 因特网发展:ARPNET->三级结构因特网&am…

makefile速通

makefile速通 文章目录 makefile速通1.基础显式规则隐含规则%*通配符 赋值 伪目标CFLAGS 2.函数wildcardpatsubst 3.项目实例 1.基础 显式规则 目标文件&#xff1a;依赖文件 [TAB] 指令隐含规则 % 任意* 所有通配符 符号含义$^所有依赖文件$所有目标文件$<所有依赖文…

分数加减

#include <stdio.h> #include <stdlib.h>// 求最大公因数 int gcd(int a, int b) {return b 0? a : gcd(b, a % b); }// 化简分数 void simplify(int *num, int *den) {int g gcd(*num, *den);*num / g;*den / g;if (*den < 0) {*num * -1;*den * -1;} }//…

微分方程(Blanchard Differential Equations 4th)中文版Exercise 5.1

For the competing species population model d x d t = 2 x (

Misc_01转二维码(不是二进制)

例题ctfhub/隐写v2.0 打开是一张图片 文件分离得到zip&#xff0c;爆破密码得到7878 打开得到0和1&#xff0c; !!!不是二进制转图片&#xff0c;直接是二维码 缩小能看到 000000000000000000000000000000000000000000000000000000000000000000000 000000000000000000000000…

Django数据库迁移与反向迁移处理方案分析

Django数据库迁移与反向迁移处理方案分析 目录 &#x1f4dd; Django数据库迁移的基本概念与应用⚙️ 如何实现Django的数据库反向迁移&#x1f504; Django数据库迁移的高级技巧与优化&#x1f6e0;️ 其他数据库迁移实现方案与应用场景⚖️ 不同迁移方案的优缺点分析 1. &a…

如何修改网络ip地址:一步步指南‌

在当今这个数字化时代&#xff0c;网络已成为我们日常生活与工作中不可或缺的一部分。无论是浏览网页、在线办公还是享受流媒体服务&#xff0c;稳定的网络连接和适当的IP地址管理都是确保良好体验的关键。然而&#xff0c;出于隐私保护、绕过地理限制或测试网络环境等需要&…

STL——vector(1)

博客ID&#xff1a;LanFuRenC系列专栏&#xff1a;C语言重点部分 C语言注意点 C基础 Linux 数据结构 C注意点 今日好题 声明等级&#xff1a;黑色->蓝色->红色 欢迎新粉加入&#xff0c;会一直努力提供更优质的编程博客&#xff0c;希望大家三连支持一下啦 目录 尾…

魔乐社区平台下载书生模型

魔乐社区平台 魔乐社区&#xff08;Modelers&#xff09;是一个提供多样化、开源模型的平台&#xff0c;旨在促进开发者和研究人员在最先进的模型和流行应用上进行协作。 书生浦语模型地址&#xff1a; https://modelers.cn/models/Intern/internlm2_5-1_8b-chat Git下载命令&…

Data governance, data literacy, and data quality management:A literature review

注意&#xff1a;这并不是正式发表的论文&#xff0c;只是一篇用来交作业的文章 Note: This is not a formally published paper, but just an essay for homework. Abstract With the rise of the data era, data governance, data literacy, and data quality management h…

ReactNative的环境搭建

写在前面 React Native (RN) 是一个由 Facebook 开发的开源框架&#xff0c;用于构建跨平台的移动应用程序。它允许开发者使用 JavaScript 和 React 来创建原生 iOS 和 Android 应用。RN 的出现极大地简化了移动应用的开发过程&#xff0c;使得开发者可以更快速、更高效地构建…

iOS 18 导航栏插入动画会导致背景短暂变白的解决

问题现象 在最新的 iOS 18 系统中,如果我们执行导航栏的插入动画,可能会造成导航栏背景短暂地变为白色: 如上图所示:我们分别向主视图和 Sheet 弹出视图的导航栏插入了消息,并应用了动画效果。可以看到,前者的导航栏背景会在消息插入那一霎那“变白”,而后者则没有任何…

GNU与开源:塑造数字世界的自由基石

引言 在信息技术的浩瀚星空中&#xff0c;GNU&#xff08;GNUs Not Unix&#xff09;项目犹如一颗璀璨的星辰&#xff0c;引领着开源运动的浪潮&#xff0c;深刻影响着全球软件开发的格局。自1983年由理查德斯托尔曼&#xff08;Richard Stallman&#xff09;创立以来&#xf…

【Swift】可选类型

文章目录 什么是可选类型&#xff1f;nilif 语句以及强制解析可选绑定隐式解析可选类型 什么是可选类型&#xff1f; Swift 的可选&#xff08;Optional&#xff09;类型&#xff0c;用于处理值缺失的情况。可选表示"那儿有一个值&#xff0c;并且它等于 x “或者"那…

SPP:空间金字塔池化

今天水一篇博客&#xff0c;讲讲SPP池化结构&#xff1b;那这是个什么东西呢&#xff1f;它的作用又是什么呢&#xff1f;在了解它之前我们先简单了解一下大部分的神经网络&#xff1b; 引入&#xff1a; 在大部分的神经网络中&#xff0c;都将神经网络分为Backbone主干网络、…

网络安全与防范

1.重要性 随着互联网的发达&#xff0c;各种WEB应用也变得越来越复杂&#xff0c;满足了用户的各种需求&#xff0c;但是随之而来的就是各种网络安全的问题。了解常见的前端攻击形式和保护我们的网站不受攻击是我们每个优秀fronter必备的技能。 2.分类 XSS攻击CSRF攻击网络劫…

Python从0到100(七十三):Python OpenCV-OpenCV实现手势虚拟拖拽

前言&#xff1a; 零基础学Python&#xff1a;Python从0到100最新最全教程。 想做这件事情很久了&#xff0c;这次我更新了自己所写过的所有博客&#xff0c;汇集成了Python从0到100&#xff0c;共一百节课&#xff0c;帮助大家一个月时间里从零基础到学习Python基础语法、Pyth…

Spring Cloud Alibaba [Gateway]网关。

1 简介 网关作为流量的入口&#xff0c;常用功能包括路由转发、权限校验、限流控制等。而springcloudgateway 作为SpringCloud 官方推出的第二代网关框架&#xff0c;取代了Zuul网关。 1.1 SpringCloudGateway特点: &#xff08;1&#xff09;基于Spring5&#xff0c;支持响应…

是时候谈谈Go的测试了

本篇内容是根据2019年4月份#83 It’s time to talk about testing音频录制内容的整理与翻译 测试是一门艺术还是一门科学&#xff1f;我们应该测试什么以及何时测试&#xff1f;测试的意义何在&#xff1f;测试会不会太过分&#xff1f;我们将在这一充满测试的剧集中探讨所有这…

Spark RDD sortBy算子什么情况会触发shuffle

在 Spark 的 RDD 中&#xff0c;sortBy 是一个排序算子&#xff0c;虽然它在某些场景下可能看起来是分区内排序&#xff0c;但实际上在需要全局排序时会触发 Shuffle。这里我们分析其底层逻辑&#xff0c;结合源码和原理来解释为什么会有 Shuffle 的发生。 1. 为什么 sortBy 会…