高算力AI模组前沿应用:基于ARM架构的SoC阵列式服务器

本期我们带来高算力AI模组前沿应用,基于ARM架构的SoC阵列式服务器相关内容。澎湃算力、创新架构、异构计算,有望成为未来信息化社会的智能算力底座。

▌性能优势+AI驱动,ARM架构服务器加速渗透

一直以来,基于ARM架构的各类处理器芯片,以其低功耗、高效能、高可靠性、成本优势等综合特性,广泛应用于手机、平板电脑、物联网终端设备等各类通信及电子产品领域,极大推动了人类社会的信息化和智能化进程。

Nipic_17961491_20161224132752988000.jpg

而在服务器领域,之前一直是基于X86架构的产品占据主导,近年来,随着下游对于异构算力、智能算力需求的不断增长,以及类似于云游戏等安卓原生态应用的大规模兴起,越来越多的厂商开始将ARM架构应用于服务器领域,并推出了一系列相关产品。

去年以来,在智能算力需求的不断增长,以及生成式AI对于异构算力的庞大需求,ARM架构服务器在云游戏、数字人等新兴应用市场展现出独特优势,而对于传统服务器领域的渗透,也有加速的迹象。

ARM架构服务器的特点:

一、低功耗:ARM架构具有低功耗优势,其采用的处理器芯片,与传统X86架构芯片相比功耗更低,且具有更高的能效比,在IDC架构中集成ARM服务器,可以降低电费支出、节约能源消耗。

二、高效能:ARM架构具有更好的多核线程驱动性能,能够实现更好的并行处理和任务处理能力。

三、成本低:ARM架构处理器芯片,较X86架构芯片的制造成本更低,ARM架构服务器价格具有极高性价比,且开发成本更低。

四、高可靠性:具有更好的故障容忍性,可以提供更高的可靠性和稳定性。

017cb75b17914ea801202e602932e1.webp.jpg

据了解,亚马逊、浪潮、腾讯、百度、阿里等头部企业,都推出了基于ARM架构的服务器产品,因其低功耗、高性价比、高效能等优势、在云计算、物联网、智能交通、医疗健康等领域有广泛应用。

据TrendForce集邦咨询研究显示,近年企业对于人工智能、高效能运算等数字转型需求加速,带动云端采用比例增加,全球主要云端服务业者为提升服务弹性,陆续导入ARM架构服务器,预期至2025年ARM架构在数据中心服务器渗透率将达22%

▌基于ARM架构的SoC阵列式服务器,智能算力领域的新兴力量

以ARM架构为基础,创新性的采用SoC芯片作为算力来源,以灵活的阵列式架构打造的SoC阵列式服务器,也逐步进入企业级IDC以及各类边缘计算场景。这是一种专门针对企业级数据中心和边缘场景面临的空间制约和节能要求而优化设计的高密服务器,以高能效比、高性价比、高密度为设计原则,在一个机架式机箱内集成多达40路、60路、80路等针对服务器场景专门定制的高算力模组或者算力板,可为各类行业客户构建适低成本、高密度、高并发、高性能的算力集群。

Nipic_7259105_20180208084441760966.jpg

服务器内布置的每个算力模组或者算力板都是一个可以独立运行的最小系统,包含CPU、GPU、NPU、存储、网络等。相关SoC阵列式服务器可根据客户需求、定制多种算力节点、其内部采用模块化及热插拔设计,可以实现不停机维护。在通信方面配置了10G/25G交换节点,支持SDN自动化网络部署,并且内置了多维智能管理节点,可以进行全方位远程运维工作,有效减低运维成本。

01d6ef61baad1411013e8cd0ad0ada.jpg

以云游戏场景为例,随着《原神》、《崩坏》等爆款游戏的全球风靡,除了游戏运行向移动端转移外,也极大带动了云游戏市场的迅速扩展。而传统的通用型服务器,在支撑云游戏运行上,存在兼容性差、成本高昂等问题,而ARM架构的阵列式服务器,基于对安卓生态天然的兼容性,避免了服务器端到应用端的软件架构转换以及转换过程中的性能损耗,近年来在云游戏场景,几乎占据主导地位,目前正逐步向数字人、工业视觉、边缘AI、云XR渲染等领域拓展。

▌美格高算力AI模组,为SoC阵列式服务器提供澎湃算力

美格智能作为行业内最早推出高算力AI模组产品的企业,也不断推动AI模组产品在服务器、机器人、AI零售、无人机、云游戏、数字人、云桌面、云教育、工业AI检测、云XR等各领域的深度应用,从而真正让产品的AI能力能够助力行业。

美格智能助力客户定制推出SoC阵列服务器产品,集成了CPU+GPU+NPU+TPU复合异构算力集群,可以构建大规模智能算力矩阵;每个算力节点采用刀片+阵列式设计,支持热插拔,轻松维护;整机80GB带宽,每个板卡满负载1GB带宽;内置BMC多功能综合监控可视化管理系统,可轻松远程管理。

13.jpg

▲内置美格智能高算力AI模组SNM970的阵列式服务器终端

该SoC阵列式服务器,采用美格智能为其专门定制的高算力AI模组SNM970,基于高通 QCS8550(8 Gen2)研发,支持16GB LPDDR5X + 256GB UFS 4.0内存,服务器中最高可配置80路高算力AI模组,单颗模组内部支持Android虚拟化,可虚拟出多路计算单元(如80路模组服务器,单颗模组根据下游算力需求,可以虚拟出多路虚拟机,比如虚拟出4路的情况下则可同时支撑320台诸如手机等终端同时运行云游戏),更好的进行算力配置,充分发挥了高算力、高性价比、高能效比的优势,为实时互动云计算、边缘AI云计算、云渲染等业务场景提供最佳算力底座。

01..jpg

随着各行各业对于算力需求的爆发式增长,以及新兴应用场景对于创新型服务器的迫切需求,美格智能也将加大力度推动高算力AI模组在服务器领域的深度应用。

目前,美格智能团队已经与行业领先的SoC阵列式服务器客户密切协作,陆续打造出了针对SoC阵列式服务器场景,基于高通骁龙865/SM8475/QCS8550三代SoC芯片的深度定制的算力模组,同时做到封装兼容,更好助力客户产品的算力提升和产品迭代,为相关产品后续在AIGC领域的应用推广,以及向传统服务器市场的渗透,提供更好助力。

中国电信终端产业协会于2023年4月26日发布了《基于ARM架构的SoC阵列服务器技术规范》,以团体标准的形式明确了ARM架构SoC阵列式服务器的通用技术要求,国内相关厂商也在为下一代服务器的产品标准在开始探讨,相关产品将逐步进入发展快车道。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/10852.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

python 字符串操作

1.字符串的使用 1.1 字符串的截取 str len1800 截取字符串中数字,并转化为数字 str1 str[4:] #得到字符串 1800, num eval(str1) #将字符串转换为数字,eval 用于比较复杂的情况,也可以直接用int(str1) #eval用于更复杂…

mybatisplus映射解读

目录 自动映射 表映射 字段映射 字段失效 视图属性 Mybatis框架之所以能够简化数据库操作,是因为他内部的映射机制,通过自动映射,进行数据的封装,我们只要符合映射规则,就可以快速高效的完成SQL操作的实现。既然…

STM32 Flash学习(一)

STM32 FLASH简介 不同型号的STM32,其Flash容量也不同。 MiniSTM32开发板选择的STM32F103RCT6的FLASH容量为256K字节,属于大容量产品。 STM32的闪存模块由:主存储器、信息块和闪存存储器接口寄存器等3部分组成。 主存储器,该部分…

3分钟学会设计模式 -- 单例模式

►单例模式 ►使用场景 在编写软件时,对于某些类来说,只有一个实例很重要。例如,一个系统中可以存在多个打印任务,但是只能有一个正在工作的任务;一个系统中可以多次查询数据库,但是只需要一个连接&#x…

Dart - 语法糖(持续更新)

文章目录 前言开发环境中间表示语法糖1. 操作符/运算符(?./??/??/../?../.../...?)2. 循环(for-in)3. 函数/方法(>)4. 关键字(await for) 最后 前言 通过将dill文件序列化…

HTML快速学习

目录 一、网页元素属性 1.全局属性 2.标签 2.1其他标签 2.2表单标签 2.3图像标签 2.4列表标签 2.5表格标签 2.6文本标签 二、编码 1.字符的数字表示法 2.字符的实体表示法 三、实践一下 一、网页元素属性 1.全局属性 id属性是元素在网页内的唯一标识符。 class…

【使用深度学习的城市声音分类】使用从提取音频特征(频谱图)中提取的深度学习进行声音分类研究(Matlab代码实现)

💥💥💞💞欢迎来到本博客❤️❤️💥💥 🏆博主优势:🌞🌞🌞博客内容尽量做到思维缜密,逻辑清晰,为了方便读者。 ⛳️座右铭&a…

SpringMVC-mybatis中可以返回查询的个数,但是都为null。。。

通过postman测试请求时,显示查询成功,返回一个json数组,里面也有数据,但是数据都是null。 说明:确实是sql执行成功了,只不过是没有将sql中的字段的值给注入到对象的属性中去。。。 Select("SELECT * …

cv2抛出异常 “install libgtk2.0-dev and pkg-config, then re-run cmake or configure”

背景: linux中使用cv2显示图片的时候,运行提示异常: 处理方式: 网友的推荐操作: 切换至root模式安装 apt-get install libgtk2.0-dev进入OpenCV下载目录,重新编译 cd /home/XXX/opencv mkdir release …

项目2 | 负载均衡式在线OJ

啊我摔倒了..有没有人扶我起来学习.... 👱个人主页: 《 C G o d 的个人主页》 \color{Darkorange}{《CGod的个人主页》} 《CGod的个人主页》交个朋友叭~ 💒个人社区: 《编程成神技术交流社区》 \color{Darkorange}{《编程成神技术…

pytorch2.x 官方quickstart测试

文章目录 1.本地环境2.[安装pytorch](https://pytorch.org/get-started/locally/) (Windows GPU版本)3. [官方quickstart](https://pytorch.org/tutorials/beginner/basics/quickstart_tutorial.html) 1.本地环境 D:\python2023>nvidia-smi Thu Jul 27 23:27:45…

数据库字段变更监控平台设计开发

序: 在开发过程中,在值班解决客服问题时,在分析定位别人写的业务代码问题时,重点是不是自己写的代码,只看到了数据库中落库最终数据,并不知道业务逻辑问题发生时数据库表中当时数据情况?如果能知…

【开源项目】低代码数据可视化开发平台go-view

数据可视化开发平台go-view 基本介绍 GoView 是一个Vue3搭建的低代码数据可视化开发平台,将图表或页面元素封装为基础组件,无需编写代码即可完成业务需求。 它的技术栈为:Vue3 TypeScript4 Vite2 NaiveUI ECharts5 Axios Pinia2 Plop…

NLP实验案例100个(6-10)

实验六 数据类型 一、实验目的及要求 熟悉数据的数据类型二、实验设备(环境)及要求 开发环境:jupyter notebook 开发语言以及相关的库:python开发语言 numpy库 三、实验内容与步骤 1.创建一个array类型的数据,设置…

【踩坑】三种方式解决 Homebrew failing to install - fatal: not in a git directory

问题描述 解决方法一 添加安全目录,没有测试。 git config --global --add safe.directory /opt/homebrew/Library/Taps/homebrew/homebrew- git config --global --add safe.directory /opt/homebrew/Library/Taps/homebrew/homebrew-cask 解决方法二 取消挂载这…

【python工具】html中表格转化为excel

背景 大家在实际的工作中可能会遇到这样的场景,查看某个统计的页面数据,其中一些数据是表格形式展示的,比如这是国家统计局关于人口统计的数据: 你想将表格内容下载下来根据自己的需要进行二次加工,但是页面没有提供下载功能或者需要你登陆才能下载。那么重点来了~~ 操…

Rabbitmq的安装与使用(Linux版)

目录 Rabbitmq安装 1.在Ubuntu上安装RabbitMQ: 打开终端,运行以下命令以更新软件包列表: 安装RabbitMQ: 安装完成后,RabbitMQ服务会自动启动。你可以使用以下命令来检查RabbitMQ服务状态: 2.在CentOS…

【前端知识】React 基础巩固(三十五)——ReduxToolKit (RTK)

React 基础巩固(三十五)——ReduxToolKit (RTK) 一、RTK介绍 Redux Tool Kit (RTK)是官方推荐的编写Redux逻辑的方法,旨在成为编写Redux逻辑的标准方式,从而解决上面提到的问题。 RTK的核心API主要有如下几个: confi…

【Hive实战】Hive的压缩池与锁

文章目录 Hive的压缩池池的分配策略自动分配手动分配隐式分配 池的等待超时Labeled worker pools 标记的工作线程(自定义线程池)Default pool 默认池Worker allocation 工作线程的分配 锁Turn Off ConcurrencyDebuggingConfigurationhive.support.concur…

QTDAY3

闹钟 头文件 #ifndef WIDGET_H #define WIDGET_H#include <QWidget> #include <QTimerEvent> //定时器事件处理函数 #include <QTime> //时间类 #include <QString> #include <QPushButton> #include <QTextToSpeech> #include …