大模型公司「卷」 芯片 英伟达危?

人工智能的行业竞争,不仅是OpenAI与谷歌等各大互联网巨头的大模型之争,支撑运算的芯片赛道也暗流涌动,大模型“制造机”们也加入了赛道。

OpenAI计划从CEO Sam Altman投资的一家初创公司Rain AI订购更高效的NPU芯片;微软也推出两款自研芯片Azure Maia 100和Azure Cobalt 100;谷歌刚推出的新模型Gemini 1.0 采用的就是自己设计的芯片TPUs v4 和v5e。

在这之前,英伟达构筑的AI芯片帝国是这些大模型公司的强大输出方,如今,大模型公司试图要自给自足一部分。而正式向英伟达发起挑战,还是芯片赛道上的老玩家。

美国超威半导体公司(AMD)已推出新一代AI芯片MI300X, 还从从英伟达手中分走了Meta、微软和OpenAI三大客户。

AI芯片卷起来了,但想要挑战坐在“王位”英伟达,也绝非易事。

大模型公司自给芯片

今年以来,各种AI大模型和应用百家争鸣,英伟达 A100、A800、H100、H800等能支持AI大模型训练的芯片被疯狂抢购。“消费者”不仅是科技公司,还有各国政府和风险投资公司。

“卖水”的英伟达一时风头无两,他们家的AI芯片供不应求,AI市场再现GPU短缺。

微软在 2023 财年报告中就多次指出,对能否为其云运营获取GPU感到担忧。OpenAI的CEO Sam Altman也不止一次公开“抱怨”芯片短缺及成本巨大,今年5月,他曾公开表示,OpenAI正在经历严重的算力短缺。这也正在影响用户体验,ChatGPT时常卡顿,反应延迟。

据报道,OpenAI 运行 ChatGPT 的成本每天在70 万美元。路透社指出,每个 ChatGPT 查询的成本约为 4 美分,如果此类查询增长到 Google 搜索的1/10,则需要预先投入价值约 480 亿美元的 GPU,每年需要花费 160 亿美元的芯片才能维持运行。

算力短缺,成本高昂,戴尔亚太和日本总裁 Peter Marrs 就曾预测,买家不会容忍英伟达GPU 的交货时间过长,这将给大量竞争对手制造机会。

为了摆脱对英伟达的芯片依赖,OpenAI 正在考虑研发自己的AI芯片,以应对全球GPU 的短缺,缩减GPT的训练成本。

前几天,OpenAI一份订购意向书曝光,Altman任职CEO期间,该公司承诺从一家初创公司Rain AI订购芯片,金额高达5100万美元,而Altman投资了这家公司。

值得一提的,这款芯片是基于神经拟态(Neuromorphic)技术的 “类脑” AI 芯片NPU,据说“模仿了人脑的结构和功能”,支持并行和分布式地处理信息,非常适合 AI 应用中的“计算密集型任务”,能够实现低耗、高效地处理信息。但目前,该芯片仍在研发阶段。

不仅是OpenAI,微软和Google等大型科技公司也在一直打造更高效的芯片。

11月16日,微软在年度IT专业人士和开发者大会Ignite上推出两款自研芯片——云端AI芯片微软Azure Maia 100、服务器CPU微软Azure Cobalt 100。

Maia 100旨在为AI工作负载运行基于云的训练和推理,而Cobalt 100则用于通用工作负载。微软的数据中心预计,将在2024年初同时采用Arm CPU和专用AI加速器。微软表示,除了在 Bing和 Office AI 产品上测试该芯片外,OpenAI也正在测试该芯片。

微软研发Maia 100 自用及供给合作伙伴OpenAI

谷歌也开始行动,其刚刚发布的、号称“吊打”GPT-4的大模型Gemini1.0,用的就是谷歌自研的TPUs v4 和 v5e芯片。

谷歌称,在TPUs上,Gemini的运行速度明显快于早期规模更小、性能更弱的模型。此外,歌还发布了TPU系统 Cloud TPU v5p,旨在为训练前沿 AI 模型提供支持,从而加速 Gemini 的开发。

包括苹果、华为等硬件厂商,越来越多的科技巨头都开始自主设计和开发自己的芯片,以满足自身的业务需求和差异化竞争。

英伟达的防御与扩张

大模型公司卷进芯片赛道,真能彻底摆脱对英伟达的依赖吗?

尽管市面上英伟达H100 GPU已涨到了原价的两倍,依旧供不应求。也即便已经上线自研芯片的谷歌,也依然在大量采购英伟达的芯片。

英伟达有自己的护城河。

据英国《金融时报》 报道,今年以来,英伟达已经投资了二十多家公司,包括从价值数十亿美元的大型新人工智能平台到将人工智能应用于医疗保健或能源等行业的小型初创企业。

虽然英伟达表示,公司在投资时并没有特殊条款,也不要求被投企业必须使用英伟达的芯片。但某种程度上,这意味着更密切的关系。

英伟达风险投资部门 NVentures 的负责人 Mohamed Siddeek 表示:“对于英伟达来说,进行初创企业投资的首要标准是相关性。” 他强调,“使用我们的技术、依赖我们的技术、在我们的技术上建立业务的公司,我想不出我们投资的公司有哪家没有使用英伟达的产品。”

根据跟踪风险投资机构 Dealroom 的估计,英伟达在 2023 年参与了 35 笔交易,几乎是去年的六倍。Dealroom 指出,这是英伟达人工智能领域交易最活跃的一年,超过了Andreessen Horowitz 和红杉等硅谷大型风险投资公司。

此外,英伟达CUDA计算平台以及软硬件生态,也为英伟达护城河构筑了更加坚固的河堤。

CUDA是一种英伟达推出的并行计算架构,运行相同任务的情况下,支持CUDA系统的英伟达GPU比CPU的速度要快10到100倍。正是得益于CUDA系统,GPU才得以打败CPU,成为今天运行大数据计算的基础。

大模型公司自研芯片,摆在眼前的也困难并不少,根源是原材料的供不应求。

The Enderle Group首席分析师 Rob Enderle 就表示,“制造芯片并非易事,代工厂和晶圆厂已经饱和,这使得 OpenAI 的这项工作很可能会失败。”他补充说,“他们最好与 AMD、高通、英伟达或英特尔合作,因为后者已经拥有自己的铸造厂。”

还有成本。

Futurum Group的高级分析师Todd R. Weiss表示,创建自己的芯片摆脱依赖“乍一看,是一个很酷的主意”,但设计自己的芯片、建立自己的芯片制造设施,永无止境地开发更新更好的芯片路线图所需的成本,还要担心自己的供应链问题,“这并不比从他人手中购买芯片更简单。”

芯片的战场,还在芯片制造商之间。

12月6日,英伟达最大的竞争对手美国超威半导体公司(AMD)举行“Advancing AI”发布会,并拉来了微软、Meta等科技公司高管站台,发布会上,AMD带来了新一代AI芯片MI300X。

与英伟达的 H100 HGX 相比, MI300 X 加速器在运行大语言模型推理时的吞吐量和时延表现都要明显高出一截,且价格也更加低廉。Meta、微软和 OpenAI 公司随后在 AMD 投资者活动上表态,未来他们将会使用 AMD最新的AI芯片。

真正降低成本的办法,还得看芯片制造商的“互卷”。AMD、英伟达等芯片大厂进入产能竞争,价格才能打下来。而大模型巨头自研芯片,无非是为“军备竞赛”多一条奔跑的腿。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/230114.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

SourceTree 免登录跳过初始设置

用于Windows和Mac的免费Git客户端。 Sourcetree简化了如何与Git存储库进行交互,这样您就可以集中精力编写代码。通过Sourcetree的简单Git GUI可视化和管理存储库。 SourceTree 安装之后需要使用账号登陆以授权,以前是可以不登陆的,但是现在是…

neuq-acm预备队训练week 10 P1129 [ZJOI2007] 矩阵游戏

题目描述 小 Q 是一个非常聪明的孩子,除了国际象棋,他还很喜欢玩一个电脑益智游戏――矩阵游戏。矩阵游戏在一个 nn 黑白方阵进行(如同国际象棋一般,只是颜色是随意的)。每次可以对该矩阵进行两种操作: 行…

为什么在Android中需要Context?

介绍 在Android开发中,Context是一个非常重要的概念,但是很多开发者可能并不清楚它的真正含义以及为什么需要使用它。本文将详细介绍Context的概念,并解释为什么在Android应用中需要使用它。 Context的来源 Context的概念来源于Android框架…

Win32程序与MFC程序构建顺序梳理

Windows程序的生成顺序 Windows窗口的生命周期 初始化操作 从WinMain函数开始,注册窗口;创建窗口; 调用CreateWindow,为程序建立了一个窗口,作为程序的屏幕 舞台。CreateWindow产生窗口之后会送出WM_CREATE消息给窗口函数&…

新手运行若依项目|若依项目各部分介绍|并修改自己需要的页面

新手运行若依项目|若依项目各部分介绍|并修改自己需要的页面 文章目录 新手运行若依项目|若依项目各部分介绍|并修改自己需要的页面前言IEDA如何运行若依项目若依项目目录简介ruo-yi common工具类ruoyi-framework 框架核心其他部分ruo一admin后台服务通用配置 application.yml数…

关于“Python”的核心知识点整理大全26

目录 10.3.9 决定报告哪些错误 10.4 存储数据 10.4.1 使用 json.dump()和 json.load() number_writer.py number_reader.py 10.4.2 保存和读取用户生成的数据 对于用户生成的数据,使用json保存它们大有裨益,因为如果不以某种方式进行存储&#xf…

redux实现原理?

Redux 是一个 JavaScript 状态管理库,它可以用于管理应用程序中的状态。Redux 的实现原理可以简单概括为以下几个步骤: 创建 store:创建一个全局的存储对象作为状态管理的中心。Store 由 Redux 提供,它包含应用程序的当前状态&am…

小红书kop营销策略有哪些,达人投放总结!

从kol到koc,当今时代产品种草模式,层出不穷。品牌想要跟上市场更新迭代的洪流,就需要时刻了解新型的营销方式。那么对于新型的kop模式你了解多少呢?我们今天就将详细分享小红书kop营销策略有哪些,达人投放总结! 一、什…

低代码工作流,在业务场景下启动流程节点绑定的具体步骤与注意事项

在业务管理的场景下,存在先做了对应的数据管理,后续增加管理的规范度,“在业务数据变化时发起流程”的需求,那么这种情况下就需要在业务管理(列表页、表单)中发起流程,让业务模型使用流程配置&a…

7、Mysql高级特性

分区表 分区表是一个独立的逻辑表,但是底层由多个物理子表组成。实现分区的代码实际上是对一组底层表的句柄对象的封装。对分区表的请求,都会通过句柄对象转化成对存储引擎的接口调用。 Mysql实现分区表的方式是对底层表的封装,意味着索引也…

运维开发实践 - 服务网关 - apisix部署

1. Apache Apisix Apache Apisix 是一个动态,实时,高性能的云原生API网关,提供负载均衡,动态上游,灰度发布,服务熔断,身份认证,可观测性等丰富的流量管理功能; 2. 如…

Java日志学习

1、Slf4j 全称是 Simple Loging Facade For Java,即它仅仅是一个为 Java 程序提供日志输出的统一接口,并不是一个具体的日志实现方案,就比如 JDBC 一样,只是一种规则而已。所以单独的 slf4j 是不能工作的,必须搭配其他…

windows10-tdengine的安装及使用

win10-tdengine的安装及使用 一、下载及安装配置1.1 下载安装1.2 配置1.3 关闭防火墙和开放端口1.3.1 关闭防火墙1.3.2 开放6030端口 二、启动及关闭服务2.1 启动tdengine服务2.2 关闭tdengine服务2.2 开机自启动配置 四、可视化工具五、TDengine 命令行(CLI&#x…

VUE中的8种常规通信方式

文章目录 1.props传递数据(父向子)2.$emit触发自定义事件(子向父)3.ref(父子)4.EventBus(兄弟组件)5.parent或root(兄弟组件,有共同祖辈)6.attrs和listeners(…

c语言实验二

实验 某企业员工按小时计算工资,每月劳动时间(小时)每小时工资总工资,总工资中扣除10%公积金,剩余的为应发工资。编写一个程序计算并输出某位员工的应发工资。 具体要求: ①该员工的劳动时间和每小时工资…

学习RPC框架-Thrift日志

前言 Thrift是一个轻量级、跨语言的远程服务调用框架,最初是由Facebook开发的,后面进入Apache开源项目。他通过自身的IDL中间语言,并借助代码生成引擎生成各种主流语言的RPC服务端/客户端模版代码。 Thrift 支持多种不同的变成语言。包括C、…

Chrome2023新版收藏栏UI改回旧版

版本 120.0.6099.109(正式版本)Chrome浏览器菜单新版、旧版的差异 想要将书签、功能内容改回旧版的朋友可以网址栏输入:「chrome://flags」,接着搜寻「Chrome Refresh 2023」。 最后将 Chrome Refresh 2023、Chrome Refresh 2023…

Linux驱动(中断、异步通知):红外对射,并在Qt StatusBus使用指示灯进行显示

本文工作: 1、Linux驱动与应用程序编写:使用了设备树、中断、异步通知知识点,实现了红外对射状态的异步信息提醒。 2、QT程序编写:自定义了一个“文本指示灯”类,并放置在QMainWidget的StatusBus中。 3、C与C混合编程与…

内部类的使用

静态内部类的使用 Data public class Teacher { ​private Integer age;private String name; // 内部类的成员变量private Teacher.Student student; // 这个是内部接口的使用方法public Teacher(){this.student new Student();}/*** 静态的类*/static class Student{void…

Kotlin 笔记 -- Kotlin 语言特性的理解(一)

函数引用、匿名函数、lambda表达式、inline函数的理解 双冒号对函数进行引用的本质是生成一个函数对象只有函数对象才拥有invoke()方法,而函数是没有这个方法的kotlin中函数有自己的类型,但是函数本身不是对象,因此要引用函数类型就必须通过双…